구글의 생성형 AI 활용 검색 서비스에서 잘못된 정보 표시

미국의 IT 대기업 구글이 이달부터 제공하기 시작한 생성형 AI를 활용한 새로운 검색 서비스에서 잘못된 정보가 표시됐다고 미국 언론이 보도했습니다.

문제가 된 것은 구글이 5월 14일 발표해, 미국에서 제공이 시작된 생성형 AI를 활용한 검색 서비스 'AI 오버뷰'로, 문장으로 질문을 입력하면 생성형 AI가 조사해 답변하는 기능입니다.

미국의 유력지, 뉴욕타임스 등에 따르면, 검색 서비스에 "피자에 치즈가 달라붙지 않는다"고 물었더니 "소스에 무해한 접착제를 사용할 것"을 추천하거나, 휘발유로 파스타 조리가 빨라지느냐는 질문에 "빨라지지는 않지만, 휘발유로 인해 매운 맛이 된다"는 답을 내놓았습니다.

또한 실제로는 기독교인인 미국의 오바마 전대통령이 무슬림이라는 잘못된 내용도 표시됐습니다.

구글은 NHK 취재에서 "사례 중 다수는 흔치않은 질문으로 인한 것"이라며 "피드백에 감사하며 시스템 개선에 노력하겠다"고 답했습니다.

생성형 AI가 사실에 근거하지 않는 정보를 사실인 것처럼 답하는 사례는 종종 일어나고 있어, 개발을 담당한 IT각사가 개선에 나서고 있습니다.