[사설] 부작용 막을 ‘AI 윤리’ 규범 도입할 때다

이 시간 주요기사

뉴스 > 사설

EU 세계 처음 AI 기술 규제법안 최종 승인
딥페이크 영상 제작 기술은 공정 선거의 적
과도한 규제로 AI 기술 전쟁 뒤처져선 안 돼

스카이데일리 기자페이지 + 입력 2024-03-18 00:02:01

최첨단기술 확보는 국가 명운을 좌우한다. 4차 산업혁명시대엔 더욱 그렇다. 빅데이터가 풍부해지고 초연결 네트워크를 통해 인공지능(AI)이 생활 전반에 자리 잡게 되는 꿈의 사회 실현은 첨단기술력, 곧 고급 두뇌에 달려 있는 것이다. 미국과 중국 등 각국이 첨단기술의 꽃인 AI 기술개발과 인력 양성에서 사활을 건 경쟁을 벌이고 있는 이유다.

‘첨단산업의 쌀’이라는 차세대 반도체는 AI의 꽃이라고 할 수 있다. AI 관점의 목표는 인간이 가장 정상적으로 판단하고 기억할 때의 그 최상의 뇌 상태를 컴퓨터로 실현해 냄으로써 인간과 소통하고 공존하면서 인간처럼 문제를 해결하고 판단하며 궁극적으로는 인간 행복을 지향하는 것이다.

과제는 AI 윤리의 문제를 어떻게 푸느냐이다. 2022년 말부터 등장한 생성형 AI의 영향으로 알파고처럼 문제도 잘 풀고 우리가 원하는 대로 잘 해결해 주는 인공지능이 등장하게 되면서 인간은 AI를 위협적인 존재로 여기기까지 하고 있다.

예컨대 수많은 사람이 이용하는 인터넷 공간에서 딥페이크 사진이나 영상 제작을 가능하게 하는 AI 기술은 공정 선거의 최대 적이나 다름없다. 가짜 뉴스나 영상·음성을 생성해 배포하는 행위도 만연할 수 있다. 딥페이크라고 불리는 가짜 편집물은 개인의 평판과 사회적 신뢰감을 저하시킨다. 최근 빅테크의 AI 챗봇이 제공하는 선거 관련 정보의 30%가 엉터리라는 연구 결과가 나왔다. 사퇴한 미국 대선 후보를 유력 후보로 제시하는 등 사실을 왜곡했다고 한다.

AI에게 의사결정권을 얼마나 부여하고 또 어떻게 인간 사회의 가치와 법칙을 존중하도록 설계해야 하느냐가 더 중요해졌다. 외국에서는 자율적 판단을 수행하는 인공지능에 대해 ‘행위자’로서 법적 존재임을 인정하기 시작했다. 미국 도로교통안전국은 자율주행 시스템이 사람과 마찬가지로 연방 법률에 규정된 ‘운전자’로 볼 수 있다고 판단했다.

인공지능 개인비서 서비스는 사용자의 연락처·대화 내용·집안 모습 등 개인정보에 대한 접근 및 저장이 필요하다. 해킹됐을 경우 사용자의 상세한 개인정보가 실시간으로 유출되는 심각한 프라이버시 침해 가능성이 있다.

첨단 AI와 AGI(범용 인공지능)가 가이드라인 없이 무기로 쓰일 경우 인류는 상상할 수 없는 재앙에 맞닥뜨릴 수 있다. AGI는 대부분의 작업을 인간 수준 이상으로 수행하는 AI를 말한다. 전문가들은 향후 5년 내 AGI가 완성될 것으로 보고 있다.

현실이 이러하기에 유럽연합(EU)이 세계 최초로 AI 기술 규제 법안을 최근 최종 승인했다. 법이 통과된 것은 규제 법안이 처음 제안된 지 5년 만이다. AI의 위험성을 공유한 것이다. 규제 법안에 따라 자율주행·의료장비 등 고위험 등급으로 분류된 기술을 출시하는 기업은 데이터를 공개해야 하고 까다로운 사전시험도 거쳐야 한다. 고위험 기술을 활용할 때는 반드시 사람이 감독해야 한다는 규정도 있다. 딥페이크 영상이나 이미지는 AI로 만든 조작콘텐츠라는 점도 표기해야 한다. 중대범죄 수사 등의 경우를 제외하고 AI를 활용한 실시간 원격 생체인식시스템 사용은 금지된다. 이를 위반하면 매출의 7% 또는 3500만 유로(약 500억 원)의 막대한 벌금을 물도록 했다.

우리도 AI 윤리 제고를 위해 적절한 규범을 도입할 때다. 첨단 문명의 상징 같은 AI는 잘 활용하면 인류에게 혁신적인 미래를 안겨 줄 수 있다. 기술의 풍요를 지속적으로 누리기 위해선 필요한 조치를 머뭇거려선 안 된다. 물론 과도한 규제로 AI 기술 전쟁에서 뒤처지는 우를 범해선 곤란하다. AI 기술이 발전할수록 이해관계자들이 준수해야 할 인공지능 윤리에 대한 관심도 함께 높아지고 있음을 직시해야 한다.

스카이데일리 skyedaily@skyedaily.com 기자페이지 +