오픈AI "몇달 뒤 '소라' 일반에 공개할 수 있어"

(사진=셔터스톡)

오픈AI가 올 하반기쯤 동영상 생성 인공지능(AI) '소라'를 일반에게 공개하겠다고 밝혔다. 그전까지는 '제미나이'와 같은 사태가 벌어지지 않도록 안전 테스트에 집중하겠다고 설명했다.

월스트리트저널(WSJ)은 13일 미라 무라티 오픈AI CTO가 인터뷰를 통해 소라 출시 계획 등을 밝혔다고 보도했다.

이에 따르면 무라티 CTO는 출시 시기에 대한 질문에 "올해 이용할 수 있을 것"이라며 "몇달 후가 될 수도 있다"고 말했다.

“우리가 시스템을 아직 배포하지 않은 이유는 안전 문제 때문”이라며, 현재 취약성이나 편견, 폭력성 등을 집중적으로 테스트하는 레드팀 운영에 초점을 맞추고 있다고 설명했다.

현재로서는 이미지 생성 AI '달리'와 흡사한 정책을 적용할 가능성이 높다고 밝혔다. 즉 대통령 등 공인의 딥페이크 영상이나 '총을 들고 동유럽 마을 걷는 군인'과 같은 정치적으로 민감한 영상, 과도한 노출 등 프롬프트를 거부한다. 

미라 무라티 오픈AI CTO (사진=MS)

대신 창의성을 방해하지 않고 가드레일을 유지할 수 있는 방법을 찾기 위해 일부 예술가들과 협력하고 있다고 덧붙였다.

또 소라 생성 비디오 클립 하단에 워터마크가 추가되고, 출처를 나타내는 메타데이터도 포함된다고 전했다.

기술적인 부분에 대해서는 "20초짜리 720p 클립을 생성하는 데 몇분이 걸렸다"라고 밝혔다. 아직은 소리 생성 기능이 없지만, 이를 추가할 계획이다. 또 소라가 생성한 동영상을 편집할 수 있도록 하는 기능 추가를 검토 중이라고 말했다.

현재는 달리보다 소라에 들어가는 컴퓨팅 비용이 훨씬 크다며, 일반 공개 이전에 최적화를 통해 비용을 줄이겠다고 말했다.

또 소라를 훈련하기 위해 어떤 데이터를 사용했느냐는 질문에는 "공개적으로 사용 가능한 데이터와 라이선스 데이터만 사용했다"라고 밝혔다. 여기에 유튜브나 인스타그램, 페이스북 데이터가 포함됐냐는 질문에는 "모른다"라고 답했다.

소라 등장으로 할리우드가 영향을 받는다는 내용에 대해서는 영화 산업계와 긴밀하게 협조할 뜻을 전했다.

무라티 CTO는 "우리는 영화 작업자에게 테스트를 위한 조기 액세스를 제공했다"라며 “영화 산업에 종사하는 사람들과 전 세계의 창작자들이 우리가 영화를 발전시키는 데 도움이 되도록 조언해 주길 바란다”라고 말했다.

임대준 기자 ydj@aitimes.com

출처 : AI타임스(https://www.aitimes.com)