챗GPT 개발사 오픈AI가 인공지능 모델 훈련 과정에서 개인정보 노출을 최소화하는 자체 개발 도구인 '프라이버시 필터'를 내년 중 전 세계 개발자 커뮤니티에 오픈소스로 제공한다고 발표했다.

한국계 미국인인 제이슨 권 오픈AI 최고전략책임자는 17일 서울 그랜드 하얏트 호텔에서 개최된 제47차 글로벌 프라이버시 총회 기조연설을 통해 이같은 계획을 공개했다. 그는 "이 도구는 AI 훈련 단계에서 개인 데이터 사용량을 대폭 줄이며, 현재 시중에 나와 있는 어떤 상업적 솔루션보다도 우수한 데이터 축소 성과를 거두고 있다"고 설명했다.

권 최고전략책임자는 "전세계 개발자들이 이 기술을 바탕으로 구축하여 글로벌 프라이버시 보호 수준을 한층 끌어올릴 수 있을 것"이라며 "개발자 커뮤니티로부터 받은 의견을 지속적으로 반영해 더욱 향상시켜 나갈 예정"이라고 밝혔다. 오픈AI는 비영리 파트너 Roost와의 협업을 통해 이 필터 기술을 더욱 강화해 나간다는 방침이다.

인공지능과 인간의 대화에 대한 법적 보호 필요성도 강조했다. 권 최고전략책임자는 "의료진과 환자, 법무 전문가와 의뢰인 사이의 대화가 기밀 유지 원칙으로 보호받듯이, AI와의 개인적 대화 역시 소송이나 광범위한 감시로부터 쉽게 노출되지 않도록 법령과 기준을 현 시대에 맞게 개정해야 한다"며 'AI 특권' 개념을 제시했다.

에이전트 AI 시대를 맞아 신뢰 구축의 중요성도 언급했다. 그는 "사람들이 AI 에이전트를 활용해 더 많은 시간적 여유와 자유를 얻으려면, 이들 시스템이 개인의 판단을 존중하고 정보를 안전하게 보호할 것이라는 확신을 가져야 한다"며 "개인정보 보호는 바로 그러한 신뢰의 핵심 요소"라고 강조했다.

오픈AI의 개인정보 보호 노력으로는 대화 내용이 저장되지 않는 임시 채팅 기능, 학습 데이터 활용을 거부할 수 있는 옵트아웃 기능, 웹사이트 운영자가 자신의 콘텐츠 사용을 제어할 수 있는 기능 등이 소개됐다. 미성년자 보호를 위해서는 부모와 보호자가 자녀의 AI 사용을 관리하고, 위험 징후 감지 시 알림을 받을 수 있는 시스템도 개발 중이라고 밝혔다.

권 최고전략책임자는 "프라이버시는 단순한 기술적 과제나 규제 준수 사안이 아니라 인간의 존엄성과 자율성, 개인에 대한 존중의 미래"라며 "AI가 연간 GDP를 0.2~2%포인트 증가시킬 것으로 예상되는 상황에서, 제약·과학연구·환경 등 핵심 영역에서의 변혁적 가능성을 실현하기 위해서는 민주적 가치를 지키는 것이 필수적"이라고 말했다.