인공지능 기술 발전의 핵심 키워드로 떠오른 'AI 에이전트'가 개인정보 보호에 심각한 위협을 가할 수 있다는 경고가 제기되고 있다. 단순한 작업 수행을 넘어 인터넷 탐색과 데이터베이스 활용, 복잡한 업무 처리까지 가능한 '디지털 협력자'로 발전하면서, 일부에서는 '익명의 개발자 시대'가 열렸다고 평가하기도 한다.

그러나 이러한 기술적 진보에 대한 우려의 목소리도 커지고 있다. 글로벌 프라이버시 총회에서 메러디스 휘태커 시그널재단 회장은 "AI 에이전트는 모든 업무를 대행한다는 명분 하에 운영체제 차원에서 중립적 인프라가 아닌 방식으로 작동한다"며 "사용자의 모든 활동 영역에 개입하여 민감한 정보에 접근하고 이를 활용한다면, 이는 개인정보 보호의 완전한 붕괴를 의미한다"고 지적했다.

실제 사례를 통해 이러한 위험성이 입증되고 있다. 마이크로소프트365 코파일럿에서 발견된 '에코리크' 취약점은 사용자의 별도 조작 없이도 AI 에이전트가 민감 데이터를 유출하도록 조작될 수 있는 보안 허점을 드러냈다. 또한 윈도우11의 '리콜' 기능은 수 초 간격으로 사용자 화면을 캡처하고 텍스트를 추출하여 저장하는데, 이는 "사진처럼 선명한 기억력을 제공한다"는 홍보와 달리 해커들이 노릴 만한 고가치 표적이 될 위험을 내포하고 있다.

애플의 인텔리전스 업데이트를 통해 왓츠앱 메시지가 시리 서버로 전송되는 현상이 포착되는 등, 사용자 동의 없는 정보 수집 사례도 증가하고 있다. 휘태커 회장은 "마법 같은 AI 미래를 약속하지만, 그 비용이 무엇인지에 대한 명확한 설명은 제공되지 않고 있다"고 비판했다.

보안업체 다이멘셔널리서치가 세일포인트 의뢰로 진행한 조사에 따르면, 기술 분야 리더 96%가 AI 에이전트를 심각한 보안 위협으로 인식하고 있으나, 이에 대한 관리 정책을 보유한 기업은 절반에도 미치지 못하는 것으로 나타났다.

해결 방안으로는 AI 개입에 대한 거부권 보장, 애플리케이션별 세부 통제권 확보, 운영체제 기업의 투명성 제고 등이 제시되고 있다. 휘태커 회장은 "포괄적이고 진정한 개인정보 보호를 요구해야 한다"며 "암호화 적용 방식을 기업 이익에 맡기는 것이 아니라 사용자 프라이버시가 확실히 보장되는 구조를 구축해야 한다"고 강조했다.

한편 대규모 데이터 수집 없이도 효과적인 AI 모델 개발이 가능하다는 주장도 제기되고 있다. 최소한의 정보만을 활용하면서도 충분한 성능을 발휘하는 소규모 AI 모델의 가능성을 보여주는 사례로, 강력한 보안성을 갖춘 메신저 서비스들이 수백만 명의 사용자를 확보하고 있는 현실이 언급되고 있다.

아시아 지역에서 7년 만에 개최된 이번 글로벌 프라이버시 총회에는 95개국 148개 개인정보 감독기구에서 약 1000명이 참석하여 AI 시대의 개인정보 보호 방안을 논의하고 있다.