[인플루언스 뉴스 | 임규리 기자] 영국 정부는 다음 달 1일부터 2일까지 G7(7국) 및 다른 주요 국가의 정부 고위 관계자, 테크 기업 임원 및 인공지능(AI) 전문가를 모아 첫 AI 안보 정상회의(AI Security Summit)를 개최한다. 카멀라 해리스 미국 부통령, 사티아 나델라 마이크로소프트(MS) CEO, 샘 올트먼 오픈AI CEO가 참석하며, 한국의 네이버와 삼성전자 역시 초청받았다. 회의에서는 AI의 위험성과 이에 대한 공동 대응책에 대해 논의될 예정이다. AI의 급속한 발전에 따라 전 세계적으로 AI 규범 설정의 필요성이 대두되었기 때문에 영국 정부는 이번 정상회의를 주최하게 되었다.

최근, 챗GPT의 등장 후 AI를 통한 허위 정보 유포 및 악용 사례가 증가하고 있어 '윤리적이면서도 안전한 AI'에 대한 관심이 커지고 있다. 챗GPT를 개발한 오픈AI와 MS는 AI의 허점을 찾기 위한 레드팀을 구성하였으며, 구글은 AI 보안 취약점 발견에 대한 현상금을 지급하는 방안을 도입하였다. SK텔레콤, 네이버 및 업스테이지와 같은 한국 기업들도 AI 윤리 원칙 설정 및 오류 없는 데이터 확보에 힘쓰고 있다. 미국 대통령 조 바이든은 이번 주 중 AI 규제 행정 명령에 서명할 예정으로, 윤리적인 AI 구축이 현재 AI 산업의 중요한 과제로 부상하고 있다.

오픈AI는 AI 관련 전문가 및 다양한 배경의 인력으로 구성된 50인의 레드팀을 보유하며, 이 팀은 AI가 비윤리적 정보를 생성 또는 유포하는지 검증하는 역할을 수행한다. 브래드 스미스 MS 부사장은 모든 AI 시스템은 배포 전 레드팀 검증을 거친다고 밝혔다. 구글은 AI 보안 허점을 발견한 해커에게 현상금을 지급하며, 현재까지 1200만 달러 이상의 현상금이 지급되었다.

미국 AI 스타트업 앤트로픽은 최근 'AI 집단 헌법'을 발표하였다. 이 헌법은 1000명의 패널이 참여하여 작성되었으며, 인간의 집단 지성을 바탕으로 AI의 운영과 활동의 기본 원칙을 설정하였다. 앤트로픽은 이 헌법을 기반으로 자사의 AI '클로드'를 학습시킨 결과, AI의 편향성이 크게 감소하였다고 밝혔다.

한국 내에서도 AI의 윤리 및 안정성에 대한 관심이 높아지고 있다. SK텔레콤의 AI 에이닷에는 7개의 실행 윤리가 포함되어 있으며, 네이버는 편향성이 제거된 대량의 한국어 데이터를 공개하였다. AI 스타트업 업스테이지는 데이터 수집 및 공유 플랫폼 '1T 클럽'을 론칭하여 검증된 'AI용 백과사전' 구축을 추진하고 있다.