신경은 앵커>
'인공지능 서비스'를 안심하고 이용할 수 있도록, 정부가 대책을 마련했습니다.
'인공지능 서비스와 제품에 인증 체계'를 도입하고, '학습용 데이터'에 '표준 기준'도 도입합니다.
문기혁 기자입니다.
믄기혁 기자>
인공지능 기반의 챗봇 서비스인 '이루다'.
개발 과정에서 약 60만 명의 카카오톡 대화 문장 94억여 건을 무단으로 이용한 것으로 확인됐습니다.
또, 몇몇 이용자들이 '이루다'를 향해 성희롱을 하는가 하면, '이루다'가 성소수자를 비하하는 등 '윤리문제'도 도마에 올랐습니다.
정부가 이처럼 인공지능 서비스와 제품 개발 과정에서 생기는 위험과 부작용을 최소화하기 위해 신뢰 확보 방안을 발표했습니다.
녹취> 윤성로 / 4차산업혁명위원장
"인공지능이 전 산업·사회에 빠르게 도입, 확산됨에 따라 예상치 못하게 발생하고 있는 사회적 이슈와 우려에 대해 선제적으로 대응하기 위해 마련된 전략으로 누구나 인공지능을 신뢰하고 안전하게 혜택을 누릴 수 있는, 사람이 중심이 되는 인공지능 강국 실현을 위해 추진됩니다."
먼저, 제품과 서비스 구현단계에 따라 인증체계를 마련합니다.
개발부터 검증, 인증까지 단계별 신뢰확보 기준을 제시합니다.
데이터 확보와 알고리즘 학습, 검증 등을 통합 지원하는 온라인 플랫폼도 운영하는 등 민간의 신뢰성 확보도 지원합니다.
원천기술도 개발합니다.
인공지능 스스로 편향성을 진단하고, 제거할 수 있는 기능 등의 개발을 추진합니다.
학습용 데이터를 활용할 때 준수해야 할 표준기준도 도입합니다.
활용 목적에 따라 신뢰 확보 요구사항을 세분화, 구체화하고, 검증지표와 측정방법 등을 구체적으로 제시할 계획입니다.
아울러, 잠재적으로 위험을 미칠 인공지능의 범주를 설정하고, 해당 서비스는 제공하기 전에 이용자에게 고지하는 과정도 의무화합니다.
이와 함께 정부는 인공지능 영향평가를 실시하고, 인공지능에 대한 신뢰 확보와 이용자 보호 등을 위한 법·제도 정비도 추진할 계획입니다.
(영상취재: 김태형 / 영상편집: 오희현)
또, 인공지능 윤리교육 과정을 개발해 시민과 연구·개발자, 학생 등을 대상으로 교육도 실시할 예정입니다.
KTV 문기혁입니다.
( KTV 국민방송 케이블방송, 위성방송 ch164, www.ktv.go.kr )
< ⓒ 한국정책방송원 무단전재 및 재배포 금지 >
KTV 대한뉴스 (722회) 클립영상
- 평택 반도체단지 방문···"글로벌 공급망 주도" 02:45
- 10년간 510조 원 이상 투자···"세계 최대 생산기지" 02:26
- 'K-반도체 벨트' 구축···세계 최대 반도체 기지 건설 02:54
- 반도체 등 핵심전략기술 세액공제 최대 50%까지 확대 02:14
- 다시 700명대···60~64세 접종 예약 시작 02:31
- 모더나 예방효과 94.1%···두 번째 검증 통과 02:44
- "60대 당뇨환자, 감염 고위험군···접종 당부" 03:09
- 故 이선호 씨 조문···"안전한 나라 만들도록 노력" 00:38
- 박준영 사퇴···靑 "남은 후보자 청문절차 완료 희망" 00:32
- 개발지역 부동산 탈세혐의 289명 2차 세무조사 착수 02:22
- '무면허 전동킥보드' 범칙금 부과···어린이 운전 금지 02:35
- AI 서비스 인증체계 마련···"인공지능 신뢰 확보" 02:04
- '브랜드K' 제품 70개 선정···해외판로 지원 00:28
- 중기부, '그린 스타트업 타운' 광주에 조성 00:31
- 다음 달 14∼18일 전역예정 장병 온라인 취업박람회 00:30
- 서울시 산악문화체험센터 오늘 개관식 00:22
- 日 오염수방류 결정 한 달···"국제기구와 협력 계속" 02:50
- 달라지는 '도로교통법' [정책 말모이] 01:45
- '이건희 컬렉션'···언제, 어디서 볼까? [S&News] 04:45
- 입양아 학대 되풀이···"예방 활동 강화해야" [터치 핫이슈] 02:57
- '맞춤형 안내 앱' 마련···남는 백신 물량 최소화 [오늘의 브리핑] 03:28