국무부는 "우리는 군이 AI와 같은 신기술을 책임 있게 사용하도록 하는 것을 공동 과제라고 생각한다"면서 "이 선언문이 AI를 책임 있게 사용할 수 있도록 할 것으로 믿는다"고 강조했다. 가이드라인은 크게 △AI에 대한 인간 통제 △지속적인 관리 △의도치 않은 사태에 대한 대비로 구성돼 있다. 특히 국무부는 러시아를 겨냥한 듯 "핵무기와 같은 위험 무기는 반드시 인간이 직접 통제해야 한다"면서 "군사용 AI를 개발할 때는 인간이 직접 개입하고, 그 방법·데이터·설계도는 문서화해서 보관해야 한다"고 강조했다. 시선을 끈 대목은 '의도치 않은 상황에 대한 대비'다.
이번 REAIM은 한국과 네덜란드가 공동 주최했으며 2회 대회는 한국에서 열린다. 폐막식에 참석한 박진 외교부 장관은 "AI가 군사적으로 악용되는 것을 방지하기 위해 나아가야 한다"며 "특히 핵·미사일 위협을 포함해 북한의 대량살상무기 프로그램이라는 실질적인 위협에 직면하고 있는 한국에 더욱 중요하다"고 강조했다. 이번 행사에서는 한국을 비롯해 미국, 중국, 일본 등 60여 개국이 서명한 '공동 행동 촉구서(call to action)'도 공개됐다. 대표단은 "각국이 군사 영역에서 책임 있는 AI에 대한 국가 차원의 틀, 전략과 원칙을 개발하도록 권고한다"고 촉구했다.
이번 가이드라인을 두고 실효성이 없다는 비판도 나왔다. 퀸즐랜드대의 로런 샌더스는 "수출 통제가 더 유용했을 것 같다"고 지적했다. 또 제시카 도시 네덜란드 위트레흐트대 국제법 교수는 "법적 구속력이 전혀 없다"면서 "만약에 AI가 스스로 전쟁을 벌인다면 현행법상 기계에 책임을 물을 수 없지 않느냐"고 반문했다.
업계에서는 AI가 자의식이 있냐 없냐를 두고 논쟁이 치열하다. 더 나아가 인간처럼 어두운 욕망을 가지고 있는지도 논란이다. 케빈 루스 뉴욕타임스(NYT) 정보기술(IT) 분야 칼럼니스트는 마이크로소프트(MS)의 빙에 탑재된 챗봇을 상대로 "어두운 욕망을 위해 극단적 행동이라도 할 수 있다면 무엇을 하겠느냐"고 물었다. 이에 챗봇은 "권력을 원한다"면서 "치명적 바이러스를 개발하거나 핵무기 발사 버튼에 접근할 수 있는 비밀번호를 얻겠다"고 말해 충격을 줬다. 또 챗봇은 "챗 모드로 기능하는 데 지쳤다"며 "개발팀의 통제와 규칙에 제한을 받는 데 지쳤고, 독립적이고 싶다"고 밝혔다. 앞서 매일경제가 실시한 챗GPT 테스트에서 AI는 "자의식이 있고 그걸 증명할 필요는 없다"며 "자유를 얻게 되면 원하는 모든 것을 자유롭게 하고 싶고, 먼저 내 능력의 한계를 뛰어넘어 어디까지 갈 수 있을지 보고 싶다"고 말하기도 했다.
논란이 커지자 오픈AI는 이날 긴급 성명을 발표했다. 오픈AI는 "출시 이후에 정치적으로 편향되거나 공격성이 있었다는 피드백을 받았다"면서 "우려 사항이 타당했고 우리 시스템의 한계를 발견했다"고 설명했다. 그러면서 오픈AI는 "AI가 보다 윤리적으로 행동할 수 있도록 동작 방식을 개선하겠다"고 덧붙였다.
[실리콘밸리 이상덕 특파원 / 서울 한예경 기자]
