미국의 ‘인공지능 안전 연구소 컨소시엄(AISIC)’ 발족의 의미

미국의 ‘인공지능 안전 연구소 컨소시엄(AISIC)’ 발족의 의미

얼마 전 전자신문에는 인공지능에 관련된 흥미로운 기사가 떴다. 그 기사의 내용은

미국에서 안전하고 신뢰할 수 있는 인공지능(AI) 개발 및 배포를 위해 민관이 참여하는 ‘인공지능 안전 연구소 컨소시엄(AISIC)’이 발족했다. 미국 상무부에 따르면 AISIC는 AI 역량평가, 위험 관리, 합성 콘텐츠 워터마킹 지침 개발 등을 하게 된다.

상무부는 “컨소시엄은 지금까지 설립된 테스트 및 평가팀 가운데 가장 큰 집합체이며 AI 안전에 대한 새로운 측정(measurement) 과학의 토대를 구축하는 데 초점을 맞출 것”이라고 밝혔다. AISIC에는 정부, 학계, AI 개발자 등 200개 이상의 업체를 포함한다. 여기에는 오픈AI, 구글, 마이크로소프트, 아마존 등 AI 관련 기업, 퀄컴 등 하드웨어 업체, 금융기업 등도 참여한다.

 

반응형

지나 러몬도 상무부 장관은 “조 바이든 대통령은 AI 안전 표준을 설정하고 혁신 생태계를 보호하는 목표를 달성하기 위해 모든 수단을 동원하라고 지시했으며, AISIC는 이 목표 달성을 돕기 위해 설립됐다”고 말했다.
이다.

AISIC이 출범한 이유는 자명하다. 인공지능이 인간에게 도움이 되는 방향으로 개발이 되면 좋겠지만, 인간을 공격하는 무기로 개발이 될 수 있다는 점이 존재하기 때문이다. 인공지능이 인간에게 도움을 주는 형태로 개발되고 발전하는 것이 좋겠지만, 역사에서 보듯 이를 부정적인 방법으로 사용하는 사람이 분명히 있기 때문이다.

이런 것을 볼 때 인공지능이 등장할 때부터 인공지능 윤리에 대한 문제가 대두된 것이 전혀  이상한 것이 없다. 인공지능을 개발하는 데 있어 기준이 없다면 영화에서 보는 인공지능이 인간을 지배하는 것이 현실이 될 수도 있다. 이를 방지하기 위해 기준을 만드는 것은 매우 중요한 부분이다.

인공지능 개발, 배포에 대한 기준을 마련하고 이것을 국제적으로 통용되는 기준을 만드는 것은 중요한 부분이다. 예를 들어 전기, 전자, 정보통신에 관한 기준도 IEEE(미국 전자전기학회, Institute of Electrical and Electronics Engineers)의 기준에 따른다. 소프트웨어의 시험을 하려면 IEEE 829 표준에서 정의된 8가지 단계를 거쳐야 한다. 이것도 소프트웨어 개발이 본격화되기 전에는 없다가 생긴 규정이다.

이와 마찬가지로 인공지능이 대세인 지금의 시대에 IEEE 같은 표준이 필요한 것은 사실이다. 첫술에 배부를 수는 없을 것이다. 지금이라도 이런 표준을 정해서 인공지능 개발에 적용하는 것은 필요하다. 물론 이것 또한 인간이 하기 때문에 실수가 있을 수 있고, 기술이 나온 다음에 표준을 정의하고 수정하기에 부족한 부분도 있을 것이다. 그래도 공감대를 형성하고 첫 발을 내디뎠다는 점에서 의미가 있다.