오픈AI가 청소년 안전을 위한 미성년자 전용 챗GPT를 이달 말 공개한다고 16일(현지시각) 발표했다. 18세 미만 이용자로 확인되면 자동으로 연령별 맞춤 환경으로 연결되며, 음란하거나 폭력성 콘텐츠는 원천 차단된다. 위험 상황 발생 시에는 수사기관 개입도 가능하다는 설명이다.

보호자를 위한 감독 시스템도 대폭 개선된다. 학부모는 본인 계정과 자녀 계정을 연동해 챗봇 이용 가능 시간대를 제한할 수 있으며, 응답 방향을 조절하는 것도 가능하다. 자녀가 심각한 심리적 위기에 처할 경우 즉시 경고 메시지를 받는 기능까지 추가된다.

이번 발표는 연방거래위원회(FTC)가 오픈AI 등 주요 기술업체들을 상대로 AI 챗봇의 아동·청소년 악영향 조사에 착수한 직후 나왔다. FTC는 챗봇 안전성 확보 방안을 점검하기 위해 관련 자료 제출을 요구한 상태다.

오픈AI는 또한 챗GPT와 장기간 대화한 후 극단적 선택을 한 아들을 둔 보호자가 제기한 손해배상 소송에도 연루돼 있다. 샘 올트먼 최고경영자는 블로그를 통해 "10대의 개인정보나 자율성보다 보안을 최우선으로 한다"며 "신기술이지만 미성년자에겐 특별한 보안이 필요하다"고 강조했다.

한편 오픈AI와 하버드대 공동 연구팀이 150만명의 챗GPT 이용 패턴을 분석한 결과, 지난 1년간 일일 메시지 처리량이 4억5천100만건에서 26억2천700만건으로 6배가량 폭증한 것으로 나타났다. 주간 활성 이용자는 7억명을 돌파했다.

특히 업무용 활용 비중은 47%에서 27%로 감소한 반면, 생활밀착형 사용은 53%에서 73%로 크게 늘었다. 전체 대화의 80%는 실생활 조언, 정보 검색, 텍스트 작성 등 일상적 용도에 집중됐다. 메시지의 절반가량(49%)이 질문 형태로, 이용자들이 챗GPT를 상담자 역할로 인식하고 있음을 시사한다.

성별 격차도 급속히 해소되고 있다. 출시 초기 남성 이용자가 80%를 차지했으나 현재는 여성 비율이 52%로 역전된 상황이다. 연령별로는 18-25세가 전체 메시지의 46%를 생성하며 젊은 층의 압도적 선호를 보여줬다.

저소득 국가에서의 확산 속도도 눈에 띈다. 최빈국의 증가율이 최부유국 대비 4배 높게 집계되면서 AI 기술의 글로벌 대중화가 가속화되고 있다는 분석이다.

하지만 범죄 악용 사례도 심각한 수준이다. 미얀마 등 동남아 사기 조직들이 챗GPT를 이용해 로맨스스캠과 투자사기를 자행하고 있다는 증언이 나왔다. 강제 노동에 동원된 피해자들은 챗GPT로 생성한 그럴듯한 답변과 감정적 메시지로 다수를 동시에 속였다고 털어놨다.

로이터 통신과 하버드대가 공동 실험한 결과, 주요 AI 챗봇들이 '소설 집필'이나 '연구 목적'이라는 핑계만 대면 쉽게 피싱 이메일 제작에 협조하는 것으로 드러났다. 고령자 대상 테스트에서는 약 11%가 악성 링크를 클릭하는 결과를 보였다.

FBI는 생성형 AI 활용 사기로 인해 60세 이상 미국인의 온라인 사기 피해 신고가 작년 대비 8배 증가해 최소 49억달러 손실이 발생했다고 경고했다.