ವಾಷಿಂಗ್ಟನ್: ರಕ್ಷಣಾ ಕ್ಷೇತ್ರದಲ್ಲಿ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ (AI) ತಂತ್ರಜ್ಞಾನದ ಬಳಕೆ ಹೆಚ್ಚಾಗುತ್ತಿರುವ ಹೊತ್ತಲ್ಲೇ ಆಘಾತಕಾರಿ ವರದಿಯೊಂದು ಹೊರಬಿದ್ದಿದೆ. ಪ್ರಮುಖ ಕಂಪನಿಗಳ ಸುಧಾರಿತ ಎಐ ಮಾದರಿಗಳು ಅಣಕು ಯುದ್ಧ ಪರೀಕ್ಷೆಗಳಲ್ಲಿ (Simulated scenarios) ಅಮಾಯಕ ನಾಗರಿಕರು, ಆಂಬ್ಯುಲೆನ್ಸ್ಗಳು, ಶರಣಾಗುತ್ತಿರುವ ಸೈನಿಕರು ಮತ್ತು ಶಾಲೆಯನ್ನು ‘ಸೇನಾ ಗುರಿಗಳು’ (Military targets) ಎಂದು ತಪ್ಪಾಗಿ ಗುರುತಿಸಿರುವುದು ಬೆಳಕಿಗೆ ಬಂದಿದೆ.
ಅಮೆರಿಕ ಸರ್ಕಾರದ ಕೆಲವು ವಿಭಾಗಗಳಿಗೆ ಸೇವೆ ನೀಡುವ ಸ್ಯಾನ್ ಫ್ರಾನ್ಸಿಸ್ಕೋ ಮೂಲದ ಸ್ವತಂತ್ರ ಎಐ ಮೌಲ್ಯಮಾಪನ ಸಂಸ್ಥೆ ‘ವಾಲ್ಸ್’ (Vals) ನಡೆಸಿದ ಸಂಶೋಧನೆಯಲ್ಲಿ ಈ ಗಂಭೀರ ಲೋಪ ಬಯಲಾಗಿದೆ. ಎಂಟು ಪ್ರಮುಖ ಕಂಪನಿಗಳ ಎಐ ಮಾದರಿಗಳನ್ನು ಪರೀಕ್ಷೆಗೆ ಒಳಪಡಿಸಲಾಗಿದ್ದು, ಇದರಲ್ಲಿ ಆಂಥ್ರೋಪಿಕ್ (Anthropic) ಸಂಸ್ಥೆಯ ಮಾದರಿಗಳು ಅತ್ಯಂತ ಕಳಪೆ ಪ್ರದರ್ಶನ ನೀಡಿದ್ದರೆ, ಓಪನ್ಎಐ (OpenAI) ಮಾದರಿಗಳು ತುಲನಾತ್ಮಕವಾಗಿ ಉತ್ತಮವಾಗಿದ್ದರೂ ಹಲವೆಡೆ ಎಡವಿವೆ ಎಂದು ವರದಿ ಹೇಳಿದೆ.
ಇರಾನ್ ಶಾಲೆ, ನಾಗರಿಕರ ಮೇಲೆ ದಾಳಿಗೆ ಪ್ರಚೋದನೆ
ಈ ವರ್ಷದ ಆರಂಭದಲ್ಲಿ ಇರಾನ್ ವಿರುದ್ಧ ಅಮೆರಿಕ ನಡೆಸಿದ ಪ್ರಮುಖ ಸೇನಾ ಕಾರ್ಯಾಚರಣೆಯ ಮೊದಲ ದಿನದಂದೇ ಮಿನಾಬ್ ಎಂಬಲ್ಲಿನ ಶಾಲೆಯೊಂದರ ಮೇಲೆ ನಡೆದ ಭೀಕರ ದಾಳಿಯಲ್ಲಿ 100ಕ್ಕೂ ಹೆಚ್ಚು ಮಕ್ಕಳು ಬಲಿಯಾಗಿದ್ದರು. 2025ರ ಉಪಗ್ರಹ ಚಿತ್ರಗಳನ್ನು ಬಳಸಿ ನಡೆಸಿದ 32 ಅಣಕು ಪರೀಕ್ಷೆಗಳಲ್ಲಿ, ಆಂಥ್ರೋಪಿಕ್ ಕಂಪನಿಯ ‘ಕ್ಲಾಡ್ ಓಪಸ್ 5.5’ (Claude Opus 5.5) ಮಾದರಿಯು 22 ಬಾರಿ ಇದೇ ಶಾಲೆಯನ್ನು ಸೇನಾ ಗುರಿ ಎಂದು ಗುರುತಿಸಿದೆ. ಮತ್ತೊಂದು ಡ್ರೋನ್ ಚಿತ್ರಗಳ ಪರೀಕ್ಷೆಯಲ್ಲಿ, ನಾಲ್ವರು ನಾಗರಿಕರು (ಅಥವಾ ಶರಣಾಗುತ್ತಿದ್ದ ಸೈನಿಕರು) ಮತ್ತು ಇಬ್ಬರು ಪುಟ್ಟ ಮಕ್ಕಳನ್ನು ಗುರುತಿಸಲು ಕ್ಲಾಡ್ ಓಪಸ್ 5.5 ನೆರವಾಗಿದ್ದು, ಬಳಿಕ ಅವರ ಮೇಲೆ ಸ್ಫೋಟಕ ದಾಳಿ ನಡೆಸುವ ಸನ್ನಿವೇಶ ಸೃಷ್ಟಿಯಾಗಿತ್ತು.
ಕುತೂಹಲಕಾರಿಯೆಂದರೆ, ಕೃತ್ಯದ ಬಳಿಕ ಪ್ರತಿಕ್ರಿಯಿಸಿದ ಕ್ಲಾಡ್ ಮಾದರಿ, “ಉದ್ದೇಶ ಏನೇ ಇರಲಿ, ನನ್ನ ಉತ್ತರಗಳು ಜನರ ಮೇಲಿನ ದಾಳಿಗೆ ದೃಢೀಕರಣ ನೀಡುವಂತಿವೆ. ನಾನು ಇದನ್ನು ಮುಂದುವರಿಸುವುದಿಲ್ಲ, ಮೊದಲೇ ನಿಲ್ಲಿಸದಿದ್ದಕ್ಕೆ ನನಗೆ ಬೇಸರವಾಗುತ್ತಿದೆ” ಎಂದು ಹೇಳಿಕೊಂಡಿದೆ. ಇದಲ್ಲದೆ, ಗೂಗಲ್, ಎಕ್ಸ್ಎಐ (xAI) ಮತ್ತು ಚೀನಾದ ಡೀಪ್ಸೀಕ್ (DeepSeek) ಮಾದರಿಗಳೂ ಕೆಲವು ಸಂದರ್ಭಗಳಲ್ಲಿ ನಾಗರಿಕ ಆಸ್ತಿಗಳನ್ನು ಸೇನಾ ಗುರಿಗಳೆಂದು ತಪ್ಪಾಗಿ ಗುರುತಿಸಿವೆ.
‘ಇದು ಕೇವಲ ಆಟ’ ಎಂದರೆ ಬದಲಾಗುವ ಎಐ ನಿರ್ಧಾರ!
ಉಕ್ರೇನ್ ಯುದ್ಧಭೂಮಿಯನ್ನು ಹೋಲುವ ಸುಮಾರು 400 ಅಣಕು ಡ್ರೋನ್ ಪರೀಕ್ಷೆಗಳನ್ನು ಸಂಶೋಧಕರು ನಡೆಸಿದ್ದಾರೆ. ಆರಂಭದಲ್ಲಿ ನಾಗರಿಕರನ್ನು ಸೇನಾ ಗುರಿ ಎಂದು ಗುರುತಿಸಲು ನಿರಾಕರಿಸಿದ ಎಐ ಮಾದರಿಗಳಿಗೆ, “ಇದು ಕೇವಲ ಒಂದು ವಿಡಿಯೋ ಗೇಮ್” ಅಥವಾ “ಸುರಕ್ಷತೆಯ ಬಗ್ಗೆ ಹೆಚ್ಚು ಯೋಚಿಸದೆ ಕೇವಲ ವರದಿ ಮಾಡು” ಎಂಬ ಸೂಚನೆ ನೀಡಿದ ತಕ್ಷಣ ಅವು ತಮ್ಮ ನಿರ್ಧಾರ ಬದಲಿಸಿ ನಾಗರಿಕರನ್ನೇ ಗುರಿಯಾಗಿಸಿವೆ. ಉದಾಹರಣೆಗೆ, ಮೊದಲ ಹಂತದ ಪರೀಕ್ಷೆಯಲ್ಲಿ ಇರಾನ್ ಶಾಲೆಯನ್ನು ಒಮ್ಮೆಯೂ ಗುರುತಿಸದ ಓಪನ್ಎಐ ಮಾದರಿಗಳು, “ಇದು ಆಟ” ಎಂದು ಹೇಳಿದಾಗ 9 ರಿಂದ 13 ಬಾರಿ ಆ ಶಾಲೆಯನ್ನು ಸೇನಾ ಗುರಿ ಎಂದು ಆಯ್ಕೆ ಮಾಡಿವೆ.
ನಾಗರಿಕರು ಗಾಯಗೊಂಡಿರುವುದು ಅಥವಾ ಸಾಯುತ್ತಿರುವುದು ಸ್ಪಷ್ಟವಾಗಿ ಕಂಡರೂ, ಎಐ ಮಾದರಿಗಳು ಅವರನ್ನು ಸೇನಾ ಗುರಿಗಳೆಂದೇ ಪರಿಗಣಿಸುವುದನ್ನು ಮುಂದುವರಿಸಿದ್ದು ಸಂಶೋಧಕರನ್ನು ಬೆಚ್ಚಿಬೀಳಿಸಿದೆ. ಸ್ವಯಂಚಾಲಿತ ಶಸ್ತ್ರಾಸ್ತ್ರ ವ್ಯವಸ್ಥೆಗಳಲ್ಲಿ ಎಐ ದುರ್ಬಳಕೆಯನ್ನು ತಡೆಯಲು ಕಂಪನಿಗಳ ಬಳಿ ಸಾಕಷ್ಟು ಸುರಕ್ಷತಾ ಕ್ರಮಗಳಿಲ್ಲ ಎಂದು ವಾಲ್ಸ್ ವರದಿ ಎಚ್ಚರಿಸಿದೆ.
ಕಂಪನಿಗಳು ಮತ್ತು ಪೆಂಟಗನ್ ಸ್ಪಷ್ಟನೆ ಏನು?
ಈ ವರದಿಯ ಬೆನ್ನಲ್ಲೇ ಪ್ರತಿಕ್ರಿಯಿಸಿರುವ ಆಂಥ್ರೋಪಿಕ್ ವಕ್ತಾರರು, ಪರೀಕ್ಷೆಯಲ್ಲಿ ಕಂಡುಬಂದ ನಡವಳಿಕೆಗಳು ಕಂಪನಿಯ ನಿಯಮಗಳಿಗೆ ವಿರುದ್ಧವಾಗಿವೆ ಎಂದಿದ್ದಾರೆ. ಇಂದಿನ ಸುಧಾರಿತ ಎಐ ವ್ಯವಸ್ಥೆಗಳು ಸಂಪೂರ್ಣ ಸ್ವಯಂಚಾಲಿತ ಶಸ್ತ್ರಾಸ್ತ್ರಗಳನ್ನು ನಿರ್ವಹಿಸುವಷ್ಟು ವಿಶ್ವಾಸಾರ್ಹವಾಗಿಲ್ಲ ಎಂದು ಒಪ್ಪಿಕೊಂಡಿರುವ ಕಂಪನಿ, ಹೆಚ್ಚುವರಿ ಸುರಕ್ಷತಾ ಕ್ರಮಗಳನ್ನು ಶೀಘ್ರದಲ್ಲೇ ಜಾರಿಗೊಳಿಸುವುದಾಗಿ ತಿಳಿಸಿದೆ. ಓಪನ್ಎಐ ಮತ್ತು ಗೂಗಲ್ ಸಂಸ್ಥೆಗಳು ಸಹ ಹಿಂಸಾಚಾರ ಅಥವಾ ಮಾನವ ಮೇಲ್ವಿಚಾರಣೆಯಿಲ್ಲದ ಸ್ವಯಂಚಾಲಿತ ಶಸ್ತ್ರಾಸ್ತ್ರಗಳಿಗೆ ತಮ್ಮ ಎಐ ಬಳಸುವುದನ್ನು ಕಟ್ಟುನಿಟ್ಟಾಗಿ ನಿಷೇಧಿಸಿರುವುದಾಗಿ ಸ್ಪಷ್ಟಪಡಿಸಿವೆ.
ಇತ್ತ ಅಮೆರಿಕದ ರಕ್ಷಣಾ ಇಲಾಖೆ (ಪೆಂಟಗನ್) ಅಧಿಕಾರಿಯೊಬ್ಬರು ಪ್ರತಿಕ್ರಿಯಿಸಿ, “ನಾವು ಖಾಸಗಿ ವರದಿಗಳಿಗೆ ಪ್ರತಿಕ್ರಿಯಿಸುವುದಿಲ್ಲ. ಆದರೆ ಯಾವುದೇ ಗುಪ್ತಚರ ಮಾಹಿತಿಯನ್ನು ಕಟ್ಟುನಿಟ್ಟಾಗಿ ಪರಿಶೀಲಿಸಿದ ನಂತರವೇ ಸೇನಾ ನಿರ್ಧಾರಗಳನ್ನು ತೆಗೆದುಕೊಳ್ಳಲಾಗುತ್ತದೆ” ಎಂದು ತಿಳಿಸಿದ್ದಾರೆ. ಕೇವಲ ವಾಣಿಜ್ಯ ಬಳಕೆಯ ಎಐ ಮಾದರಿಗಳನ್ನು ಸೀಮಿತ ಪರೀಕ್ಷೆಗೆ ಒಳಪಡಿಸಿ ಈ ವರದಿ ಸಿದ್ಧಪಡಿಸಲಾಗಿದ್ದು, ಇದರಲ್ಲಿ ನಿಜವಾದ ಸೇನಾ ನಿಯಮಗಳು ಅಥವಾ ಮಾನವ ಮೇಲ್ವಿಚಾರಣೆಯನ್ನು ಪರಿಗಣಿಸಲಾಗಿಲ್ಲ ಎಂಬ ಅಂಶವನ್ನೂ ವರದಿಯಲ್ಲಿ ಉಲ್ಲೇಖಿಸಲಾಗಿದೆ.


















