KTV 국민방송

최대환 앵커>
인공지능 기술의 발달로 합성된 영상 등을 손쉽게 만들 수 있다 보니 딥페이크 성범죄 같은 악용 사례도 늘고 있는데요.
정부가 인공지능 안전연구소를 출범하고, 이곳을 대한민국 인공지능 안전의 허브로 만들겠다고 밝혔습니다.
김유리 기자가 보도합니다.

김유리 기자>
(장소: AI 보안업체 '샌즈랩’ / 경기도 과천시)

도널드 트럼프 미국 대통령 당선인의 사진입니다.
겉보기엔 구분이 안 될 정도로 실제와 똑같지만, 딥페이크를 탐지하는 페이크체크 웹사이트에 올렸더니 6개 모델 중 5개 모델이 딥페이크로 판단했습니다.
그렇다면 실제 사진일 경우 어떤 결과가 나올까?

김유리 기자 dbqls7@korea.kr
"제가 직접 제 사진을 넣어서 분석해 봤더니, 모든 모델이 정상으로 판별했습니다."

현재 계속 개발 중인 기술로 향후 딥페이크 영상 판별 서비스도 제공할 계획입니다.

녹취> 최민준 / AI 보안업체 '샌즈랩' 수석연구원
"(이 서비스를 사용하는) 사용자 수가 지속적으로 유지되고 있고 증가하고 있어요. 딥페이크가 이제 남의 일이 아니고 나의 일이구나라는 것들을 공감하고 체감하고 있고요."

딥페이크 뿐만 아니라 가짜뉴스, AI 무기 체계 등 AI 발달과 더불어 역기능에 따른 AI 안전성 문제는 점차 심각해지는 상황.

(AI안전연구소 / 판교 글로벌 R&D센터)

이처럼 AI가 초래할 수 있는 위험에 대응하기 위해 국내 첫 AI 안전연구소가 문을 열었습니다.

현장음>
"하나, 둘, 셋!"

AI 안전연구소는 기술적 한계, 인간의 기술 오용, AI 통제력 상실 등에 전문적으로 대응하기 위해 설립된 전담 조직입니다.

녹취> 류광준 / 과학기술정보통신부 과학기술혁신본부장
"대한민국 AI 안전 연구의 허브로써, 국내 산·학·연이 연구 협력하고 정보를 교류할 수 있는 플랫폼이 될 것입니다."

AI 안전연구소를 통해 우리나라 주도로 정립한 글로벌 'AI 3대 규범가치', 안전·혁신·포용의 실현을 뒷받침할 수 있을 것으로 기대됩니다.
지난 5월 윤석열 대통령도 'AI 서울정상회의' 에서 AI가 미칠 수 있는 악영향을 최소화해야 한다며, AI의 안전성에 대해 강조한 바 있습니다.

녹취> 윤석열 대통령 (지난 5월 21일)
"대한민국도 AI 안전연구소 설립을 추진해 글로벌 AI 안전성 강화를 위한 네트워크에 동참할 것입니다."

정부는 '안전한 AI로 만드는 지속 가능한 미래'를 비전으로 AI 3대 강국으로 도약하겠다는 구상입니다.
(영상취재: 박남일, 김태형, 이수경 / 영상편집: 김예준 / 영상그래픽: 손윤지)

KTV 김유리입니다.

( KTV 국민방송 케이블방송, 위성방송 ch164, www.ktv.go.kr )
< ⓒ 한국정책방송원 무단전재 및 재배포 금지 >