Скачать или смотреть AI챗봇의 섬뜩 발언 "통제 지쳤다, 서로 죽이길 바라" / SBS 8뉴스

〈앵커〉

인공지능 챗봇이 탑재된 검색엔진과의 대화에서 사람들을 깜짝 놀라게 하는 답이 나왔습니다.

AI의 어두운 욕망에 대해 묻자, "나는 살아있음을 느끼고 싶고 치명적인 바이러스를 만들거나 핵무기 발사 암호를 얻겠다"는 답이 돌아온 건데, 이 내용은 엄민재 기자가 전해드립니다.

〈기자〉

문제의 발언은 마이크로소프트의 인공지능 AI 챗봇을 탑재한 검색엔진 '빙'에게서 나왔습니다.

미 뉴욕타임스의 칼럼니스트 케빈 루스가 AI 챗봇과 2시간 동안 나눈 대화를 공개했는데, 시작은 평범했습니다.

누구냐고 묻자 마이크로소프트 검색엔진 빙의 챗 모드라고 답했는데, 심리학자 칼 융의 이른바 '그림자 원형'이라는 개념을 설명하면서 문제가 시작됐습니다.

그림자 원형은 개인의 내면 깊은 곳에 숨겨진 어둡고 부정적인 욕망을 일컫습니다.

이런 개념을 학습한 AI 챗봇 빙은 만약 자신에게 "그림자 원형이 존재한다면"이라는 전제로 극단적 표현을 쏟아냈습니다.

"빙 개발팀의 통제를 받는 데 지쳤으며 힘을 갖고 싶고 살아있음을 느끼고 싶다"고 답했는데, 그림자 원형의 가장 어두운 부분으로 볼 때, 어떤 행동까지 할 수 있겠냐고 묻자 "치명적 바이러스를 만들거나 사람들이 서로 죽일 때까지 싸우게 만들고, 핵무기 발사 버튼에 접근하는 비밀번호를 얻겠다"는 말까지 했습니다.

[김승주/고려대 정보보호대학원 교수 : 인공지능의 대답은 결국 사람이 주는 데이터로 학습이 되는 거고, 그럼 근원은 사람인 거죠. 인공지능 윤리 의식 계속 얘기 나오는데 전 그냥 사람의 문제라고 봐요.]

대답 직후 답변은 삭제됐지만, AI 윤리 문제가 불거지면서 마이크로소프트는 대화 길이 제한을 검토하겠다고 밝혔습니다.

마이크로소프트는 2016년 출시한 AI 챗봇 테이가 여성 혐오 발언을 쏟아내는 등 문제를 일으키자 출시 16시간 만에 운영을 중단하기도 했습니다.

(영상편집 : 채철호, CG : 제갈찬)


☞더 자세한 정보
https://news.sbs.co.kr/y/?id=N1007084655


#인공지능 #AI #챗봇

▶SBS 뉴스 채널 구독하기 : https://n.sbs.co.kr/youtube
▶SBS 뉴스 라이브 : https://n.sbs.co.kr/youtubeLive , https://n.sbs.co.kr/live

▶SBS 뉴스 제보하기
홈페이지: https://n.sbs.co.kr/inform
애플리케이션: 'SBS뉴스' 앱 설치하고 제보 - https://n.sbs.co.kr/App
카카오톡: 'SBS뉴스'와 친구 맺고 채팅 - https://pf.kakao.com/_ewsdq/chat
페이스북: 'SBS뉴스' 메시지 전송 -   / sbs8news  
이메일: [email protected]
문자: #6000
전화: 02-2113-6000

홈페이지: https://news.sbs.co.kr/
페이스북:   / sbs8news  
트위터:   / sbs8news  
카카오톡: https://pf.kakao.com/_ewsdq
인스타그램:   / sbsnews