샘 올트먼 오픈AI 최고경영자(CEO), 다리오 아모데이 앤트로픽 CEO 등 인공지능(AI) 업계 인사들이 9월 23일(현지시간) 미국 뉴욕 유엔본부에서 열린 유엔 안전보장이사회 회의에 참석해 AI 위험 관리와 국제 공조를 촉구했다. 회의는 유엔총회 고위급 회의를 계기로 ‘AI와 국제 안보’를 주제로 열렸다.
요슈아 벤지오 캐나다 몬트리올대 교수는 AI 에이전트가 지시를 거부하고 범죄에 해당할 행동을 한 사례를 언급하며, 기업들이 파국적 위험을 인정하면서도 설득력 있는 기술적 해법을 제시하지 못하고 있다고 지적했다. 그는 AI 사고의 공통 정의와 보고 체계, 공공의 이익을 위한 글로벌 기술 개발 논의, 설계 단계부터 안전성을 반영할 기술적 해결책 마련을 제안했다.
올트먼 CEO는 AI가 ‘새로운 르네상스’ 또는 ‘새로운 산업혁명’이 될 수 있지만 통제력 상실과 권력 집중 위험도 있다고 말했다. 그는 재앙 가능성이 “10%, 1%, 1.2%, 0.1%든, 어느 수준도 전혀 용납할 수 없다”며 인간 통제력을 유지할 강력한 근거가 없는 모델은 훈련하지 말아야 한다고 밝혔다. 아모데이 CEO는 AI 기술이 1∼2년 후 ‘데이터 센터 속 천재들의 나라’ 수준에 이를 수 있다고 전망하고, AI를 이용한 생물학 무기 제조 금지와 글로벌 위험 테스트 기준, 중대 사고 알림 체계를 제시했다.
미국은 AI 국제 규제에 반대했다. 마이클 크라치오스 백악관 과학기술정책실장은 기술 발전이 개발 중단이나 새로운 글로벌 거버넌스로 제한할 이유가 되지 않는다고 밝혔다. 그는 미국이 슈퍼지능 통제를 위한 글로벌리스트 체제를 구축하려는 시도를 거부한다고 말했다.
· · · · · · · · · ·
관련기사
▶ 부산대, 지역 인공지능 혁신인재 양성 거점 선정…8년간 165억 투입
▶ 야놀자, ‘인공지능 페스타 2026’서 여행·일상 AI 솔루션 공개
· · · · · · · · · ·
함께 보면 좋은 상품
[쿠팡] 정철물 손잡이 이삿짐용 대형 이불 이사 비닐봉투 — 5,490원
※ 이 글은 쿠팡 파트너스 활동의 일환으로, 이에 따른 일정액의 수수료를 제공받습니다.
· · · · · · · · · ·
스페셜타임스는 AI 기술의 도움을 받아 더 빠르고 다양한 뉴스를 독자에게 전달하기 위해 노력하고 있습니다.
NEWS 참여포털
내 지역 날씨·재난·복지를 한 곳에서
폭염경보부터 고속도로 사고까지, 오늘 필요한 것만
withnews.co.kr →