인공지능 기술 발전의 기반이 되는 오픈소스를 안전하게 활용하기 위한 글로벌 차원의 논의가 서울에서 시작됐다. 개인정보보호위원회는 16일 글로벌 프라이버시 총회 개회를 하루 앞두고 '오픈소스 데이' 행사를 15일 그랜드 하얏트 호텔에서 개최했다고 발표했다.

이번 행사에는 구글, 메타, 마이크로소프트, 오픈AI, 네이버, 셀렉트스타, 에임 인텔리전스 등 주요 글로벌 AI 기업들과 국내 연구진, 해외 규제기관 관계자 등 총 120여 명이 모여 책임감 있는 오픈소스 인공지능 생태계 조성 방안을 모색했다. 이는 95개국 148개 개인정보 감독기구가 참여하는 세계 최대 규모 협의체인 제47차 GPA의 예비 행사로 마련되었다.

개인정보위가 사전에 실시한 조사 결과에 따르면, 70명의 개발자와 연구자, 기업 담당자 중 62%가 오픈소스 도입 및 활용 경험을 보유하고 있었다. 또한 오픈소스 모델의 미세조정 과정에서 안전성을 검토한 경험이 있다고 답한 응답자는 77%에 이르렀다. 다만 개인정보보호 안전장치를 적용한 비율은 68%로 나타나 개선의 여지를 보였다.

행사에 참여한 글로벌 기업들은 각자의 오픈소스 생태계 구축 경험과 실무 적용 사례를 공유하는 시간을 가졌다. 구글은 버텍스 AI 플랫폼을 통한 효율적인 오픈소스 모델 운영 방식을 선보이며, 대규모 언어모델 품질 평가 도구와 프롬프트 최적화 기능, 보안 강화 솔루션 등 신뢰성 확보를 위한 도구들의 활용법을 설명했다.

마이크로소프트는 애저 AI 파운드리 플랫폼 기반의 에이전트 AI 구축 고객 사례를 통해 차세대 패러다임으로 주목받는 에이전트 AI 개발에 오픈소스 모델과 도구를 활용할 수 있는 방안을 제시했다. 네이버는 하이퍼클로바X 오픈소스 모델과 함께 공개 데이터셋, 벤치마크, AI 안전성 프레임워크 등 안전한 오픈소스 활용을 위한 도구들을 소개하며 국내 오픈소스 생태계 확산에 기여한 성과를 공유했다.

오픈AI는 최근 공개한 자사 오픈소스 모델의 경제적, 사회적 가치를 강조하면서도 안전성에 대한 우려와 책임 문제, 글로벌 수준의 논의 필요성 등 오픈소스 확산 과정에서 마주하게 되는 도전 과제들을 함께 제기했다. 에임 인텔리전스는 고객 대상 AI 서비스 운영과 사내 업무용 AI 모델 활용 과정에서 기업들이 현장에서 겪는 다양한 안전성 및 정보보안 문제들을 실제 경험을 바탕으로 공유했다.

행사 후반부에는 한국을 비롯해 영국, 이탈리아, 브라질 등 4개국 개인정보 감독기구 대표들이 참여하는 라운드테이블이 진행됐다. 각국 감독기구는 오픈소스 AI 생태계 내 프라이버시 고려사항을 논의하고, 개방성과 투명성을 바탕으로 한 신뢰할 수 있는 AI 구현 필요성에 대해 의견을 모았다. 특히 자율성을 기반으로 한 에이전틱 AI 시대의 도래를 예상하며, 안전한 AI 생태계 구축을 위한 국제적 수준의 지속적인 논의와 협력이 필요하다는 점에서 공감대를 형성했다.

실시간 질의응답 세션에서는 참석자들이 오픈소스 도입 과정에서 겪는 애로사항과 프라이버시 관련 고민들을 나누며 해결 방안을 모색했다. 개인정보 및 민감정보 필터링과 검증 절차, 미세조정 시 고려사항, 레드팀 테스트 설계 방안 등 오픈소스 활용 과정의 안전성과 신뢰성 보장 방안에 대해 집중적으로 논의하며 '책임감 있는 오픈소스 AI 생태계'에 대한 공통된 인식을 만들어갔다.

최장혁 개인정보위 부위원장은 "이번 오픈소스 데이는 에이전트 AI 등 혁신적 서비스의 토대가 되는 오픈소스 AI 생태계와 개인정보보호를 동시에 고민하는 국내 첫 번째 공개 논의의 장으로서 큰 의의가 있다"며 "기업과 연구자들이 안심하고 오픈소스를 활용할 수 있도록 현장의 의견을 정책에 적극 반영해나가겠다"고 밝혔다.