서울 
여수 
)
구글 AI 제미나이의 역사 왜곡 논란이 구글 CEO 사임으로까지 번지고 있다. 한편 이번 사건으로 기업의 판단에 따라 생성형 AI가 잘못된 인식을 퍼트리는 것에 대한 경각심이 커지고 있다.
미국 매체 비즈니스 인사이더는 2일(현지 시각) 순다르 피차이 구글 CEO에 대한 사임 요구가 커지고 있다고 보도했다. 최근 구글의 생성형 AI 제미나이가 역사 왜곡 논란을 일으킨 것이 원인으로 알려졌다.
미국 최초의 상원 의원을 그려달라고 입력하자 흑인 여성 그림이 생성되거나 나치 독일 군인이 아시아인으로 입력되는 사례가 SNS를 통해 게시됐으며 아인슈타인과 같은 실존 인물을 흑인으로 그리기도 했다. 이러한 오류의 원인으로는 구글이 개발 과정에서 다양성을 중시하도록 프로그래밍한 것이 꼽힌다.
역사적 인물을 다른 인종으로 표현하는 블랙 워싱 또한 화이트 워싱 문제는 전 세계적으로 민감한 사안 중 하나이다. 실제로 지난해 방영된 넷플릭스 다큐멘터리 ‘퀸 클레오파트라’가 고대 이집트 여왕인 클레오파트라 7세를 흑인으로 묘사한 것을 두고 논란이 있기도 했다.
구글은 22일(현지 시각) 제미나이의 이미지 생성 기능을 중지했다. 피차이 CEO는 내부 메일을 통해 “제미나이의 일부 텍스트와 이미지 응답은 매우 편향적이고 용납할 수 없는 오류다”며 “현재 다양한 프롬프트에서 상당한 개선이 이뤄지고 있으며 문제를 추가적으로 검토해 이에 맞는 기능 수정을 진행하겠다”고 말했다.
이번 사태는 구글의 프로그래밍 오류라는 결론이 나왔으나 생성형 AI의 파급력이 큰 만큼 다시 한번 생성형 AI의 위험성에 대한 경각심이 커지고 있다. 생성형 AI가 잘못된 정보를 제공할 경우 거짓 정보가 빠르게 확산될 수 있다는 지적은 예전부터 있었다.
현재 생성형 AI 시장을 선도하는 기업은 구글·마이크로소프트 등 미국 기업들이다. 이에 주된 데이터베이스가 되는 미국인들의 인식이나 AI 기업의 방침이 특정 국가나 인종에 대한 잘못된 생각을 퍼트릴 수 있다는 지적이 나오고 있다.
한 AI 업계 관계자는 “생성형 AI는 언어를 기반으로 하기 때문에 한 나라에서는 문제없는 단어가 다른 나라에서는 모욕적으로 받아들여 문제가 생기는 경우가 있다”며 “생성형 AI를 서비스하는 나라가 많아질수록 이러한 차이가 본격적으로 논의될 것으로 보인다”고 말했다.
실제로 마크 저커버그 메타 CEO는 지난달 27일 방한해 메타의 초거대 언어모델 ‘라마’를 사용하는 국내 AI 기업 대표들을 만나 현지 언어 특화 모델을 만드는 방안을 논의한 것으로 알려졌다. 다만 이러한 방법도 기업이 주도해 이뤄지는 만큼 제도적인 보완책의 필요성 또한 부각되고 있다.
전창배 국제인공지능윤리협회 이사장은 “구글이 AI 경쟁에서 앞서가기 위해 출시 일정은 앞당기는 과정에서 생기는 문제로 보인다”며 “현재 빅테크 기업이 몰려 있는 미국이 자율 규제 기조를 이어가고 있는 만큼 지금은 기업들이 잘해주기를 바라는 수밖에 없다”고 말했다.
전 이사장은 “지금 EU에서 AI 관련 법률이 논의되고 있으며 생성형 AI는 고위험 AI로 분류되고 있다”며 “생성형 AI의 영향력이 크고 어린아이들이 잘못된 정보에 노출됐을 때 폐해가 큰 만큼 남녀노소 다 사용할 수 있는 생성형 AI에 대한 규제가 필요해 보인다”고 말했다.
이 기사에 대해 어떻게 생각하시나요?
추천해요
좋아요
감동이에요
화나요
슬퍼요
추천해요2
좋아요0
감동이에요0
화나요0
슬퍼요0
대하역사소설 ‘우리나라 삼국지’ 
연재소설 ‘최초의 당신’
기사제보 
