군이 AI를 신뢰할 수 없는 이유
2024-04-29- ChatGPT는 OpenAI에 의해 2022년에 공개되었으며 인간의 대화를 모방하고 사용자의 질문에 답변할 수 있는 대규모 언어 모델(Large Language Models, LLM)을 사용합니다.
- LLM과 기타 생성 AI 기술은 더욱 차별화되고 윤리적인 무력 사용의 가능성을 제공하지만, 이러한 기술이 생명과 죽음에 관한 가장 중요한 결정에서 인간의 의사결정을 배제할 수 있다는 우려도 있습니다.
- 미국 국방부는 AI가 무장 세력에 도움이 될 수 있는 것을 진지하게 조사하고 있으며, 인공 지능을 활용하는 전략을 발표했습니다.
- 미 해군은 LLM의 보안 취약점과 민감한 정보의 부주의한 누출을 이유로 LLM 사용에 대한 지침을 발표했습니다.
- LLM은 유용할 수 있지만 그 행동을 예측하기 어렵고 위험하고 확대되는 결정을 내릴 수 있습니다.
- LLM은 대량의 데이터를 처리하고 매우 짧은 시간 내에 작업을 수행해야 하는 군사 작업에 유용할 수 있지만, 성공은 보장할 수 없습니다.
- LLM의 동작은 예측할 수 없으며 고위험 결정을 내릴 때 특히 보장할 수 없습니다.
- 군사 작전에서 LLM을 사용하는 것에 대한 신중한 접근이 필요하며, 미 국방부는 AI 윤리 원칙에 부합하도록 AI 시스템을 테스트하고 평가하는 방향으로 움직이고 있습니다.
3foreignaffairs.com링크 복사하기
AI 뉴스 요약은 뉴스의 내용을 AI가 요약(GPT-4 활용)한 것입니다. 따라서 틀린 내용을 포함할 수 있습니다. 뉴스의 자세한 내용을 확인하시려면 해당 뉴스 링크를 클릭해주세요.