점점 더 많은 주에서 AI 군사 기능을 개발하고 있으며 여기에는 AI를 사용하여 자율 시스템을 구현하는 것이 포함될 수 있습니다.하나 AI의 군사적 사용은 윤리적이고 책임감 있으며 국제 안보를 강화할 수 있고 또 그래야 합니다. 무력 충돌에서 AI의 사용은 기본 원칙을 포함하여 적용 가능한 국제 인도법과 일치해야 합니다. AI 기능의 군사적 사용은 책임 있는 인간의 지휘 및 통제 사슬 내에서 군사 작전 중 사용을 포함하여 책임을 져야 합니다. AI의 군사적 사용에 대한 원칙적인 접근 방식은 위험과 이점을 신중하게 고려하고 의도하지 않은 편견과 사고를 최소화해야 합니다. 국가는 자율 시스템을 가능하게 하는 기능을 포함하여 군사 AI 기능의 책임 있는 개발, 배치 및 사용을 보장하기 위해 적절한 조치를 취해야 합니다. 이러한 조치는 군사 AI 기능의 수명 주기 전반에 걸쳐 적용되어야 합니다.
다음 진술은 자율 시스템을 가능하게 하는 기능을 포함하여 군사 AI 기능의 개발, 배치 및 사용에서 구현되어야 한다고 지원하는 국가가 믿는 모범 사례를 반영합니다.
- 국가는 다음과 같은 효과적인 조치를 취해야 합니다. B. 군사적 AI 능력이 국제법, 특히 국제인도법에 따른 각각의 의무에 따라서만 배치되도록 법적 검토.
- 국가는 핵무기 사용에 관한 주권 결정의 정보 및 실행에 중요한 모든 활동에 대한 인간의 통제와 참여를 유지해야 합니다.
- 국가는 고위 관리가 무기 시스템을 포함하되 이에 국한되지 않는 진지한 응용 프로그램을 통해 모든 군사 AI 기능의 개발 및 배치를 감독하도록 해야 합니다.
- 국가는 군사 조직에 의한 AI 기능의 책임 있는 설계, 개발, 배치 및 사용에 대한 원칙을 채택, 발표 및 구현해야 합니다.
- 국가는 그러한 기능을 통합한 무기 시스템을 포함하여 군사 AI 기능의 개발, 배치 및 배치에서 관련 인력이 적절한 수준의 인간 판단을 포함하여 적절한 주의를 기울이도록 해야 합니다.
- 국가는 이를 최소화하기 위한 의식적인 조치를 취해야 합니다. 의도하지 않은 편견 군사 AI 기술에서.
- 국가는 군사 AI 기능이 검증 가능한 방법론, 데이터 소스, 설계 절차 및 문서를 사용하여 개발되도록 해야 합니다.
- 국가는 군사 AI 기능을 사용하거나 사용을 승인하는 인력이 해당 기능의 기능과 한계를 적절하게 이해하고 사용에 대한 상황에 맞는 판단을 내릴 수 있도록 훈련을 받도록 해야 합니다.
- 국가는 군사 AI 능력이 명시적이고 잘 정의된 용도로 사용되며 의도된 기능을 수행하도록 설계 및 구성되도록 해야 합니다.
- 국가는 군사 AI 기능의 안전성과 효과가 잘 정의된 용도 내에서 그리고 수명 주기 전반에 걸쳐 적절하고 엄격한 테스트 및 보증을 받도록 해야 합니다. 자가 학습 또는 지속적으로 업데이트되는 군용 AI 기능도 중요한 보안 기능이 저하되지 않았는지 확인하기 위해 모니터링 프로세스를 거쳐야 합니다.
- 국가는 의도하지 않은 결과를 감지 및 방지하고 의도하지 않은 행동을 보이는 배치된 시스템을 종료하거나 비활성화할 수 있도록 군사 AI 기능을 설계하고 개발해야 합니다. 국가는 또한 심각한 불이행의 위험을 완화하기 위해 다른 적절한 보호 조치를 취해야 합니다. 이러한 보호 장치는 모든 군사 시스템과 비군사 AI 기능용으로 개발된 것에서 파생될 수 있습니다.
- 국가는 이러한 관행의 효과적인 구현과 지원 국가가 적절하다고 생각하는 기타 관행의 채택을 장려하기 위해 책임 있는 방식으로 군사 AI 기능을 개발, 배치 및 사용하는 방법에 대한 지속적인 논의에 참여해야 합니다. 이러한 논의에는 군사 AI 기능 수출의 맥락에서 이러한 관행을 구현하는 방법에 대한 성찰이 포함되어야 합니다.
인정국은:
- 자율 시스템을 가능하게 하는 기능을 포함하여 군사 AI 기능의 개발, 배치 또는 사용에서 이러한 관행을 구현합니다.
- 이러한 관행에 대한 참여를 공개적으로 설명합니다.
- 이러한 기능이 책임감 있고 합법적으로 사용되도록 보장하기 위한 기타 적절한 노력을 지원합니다. 그리고
- 관련 문제에 대한 다른 포럼을 포함하여 다른 포럼에서 관련 문제에 대한 지속적인 논의를 방해하지 않고 이러한 관행을 촉진하기 위해 나머지 국제 사회를 추가로 참여시킵니다.
(1) 인공 지능과 자율성이라는 용어는 다르게 해석될 수 있습니다. 이 진술의 목적을 위해 인공 지능은 패턴 인식, 경험에서 학습, 추론 도출, 예측 또는 측정 파악과 같이 인간 지능이 필요한 작업을 수행하는 기계의 능력으로 이해될 수 있습니다. 자율 물리적 시스템 뒤에 있는 스마트 소프트웨어. 마찬가지로 자율성은 일단 활성화되면 더 이상의 인간 개입 없이 기능하는 시스템을 포함하는 것으로 이해될 수 있습니다. (1로 돌아가기)