생성형 AI가 일상과 업무 깊숙이 들어오면서 새로운 문제가 드러나고 있다.
사진을 합성하고 회사 내부 문서를 올려 요약하고 주식 투자를 분석하는 일까지 AI에게 맡기는 이용자가 늘고 있는데, 이 가운데 일부는 개인정보와 영업비밀, 저작권, 금융 손실과 직접 연결될 수 있다.
한국범죄학회와 한국갤럽이 실시한 조사에서는 생성형 AI 전체 이용자의 39.2%가 6개 ‘역기능 이용’ 유형 가운데 하나 이상을 경험했다고 답했다.
다만 여기서 말하는 역기능 이용이 곧바로 불법 행위를 뜻하는 것은 아니다. 업무 문서 요약이나 투자 분석처럼 그 자체로는 일반적 활용일 수 있지만 어떤 자료를 넣었는지와 어떻게 사용했는지에 따라 위험으로 이어질 수 있다.
가장 많았던 것은 사진·영상 합성 17.8%
조사에서 가장 높은 비율을 보인 유형은 다른 사람의 사진이나 영상을 합성·변조한 경험으로 17.8%였다. 회사 업무 문서를 AI에 업로드해 요약한 경험은 16.9%, 주식 등 투자 관련 분석은 16.5%였다.
10·20대는 사진 합성, 30·40대는 업무 문서
사진·영상 합성·변조 경험은 20대가 26.5%로 가장 높았고 13~18세도 24.6%에 달했다.
반면 회사 업무 문서를 AI에 올려 요약한 경험은 30대 31.0%, 40대 22.7%였고 투자 관련 분석은 40대 27.8%, 30대 21.1%로 나타났다.
유료 이용자 업무 문서 업로드 46.7%
회사 업무 문서를 업로드해 요약한 경험은 유료 이용자가 46.7%로 무료 이용자 12.3%의 약 3.8배였다.
투자 관련 분석도 유료 이용자 40.8%, 무료 이용자 12.8%로 3배 이상 차이가 났다. 사진·영상 합성·변조는 유료 이용자 27.7%, 무료 이용자 16.3%였다.
유료 결제가 원인인지는 알 수 없다
수치만 보면 유료 이용자에게서 역기능 이용 경험이 더 자주 나타나지만 유료 결제가 원인이라고 단정할 수는 없다.
AI 사용량이 많은 사람이 유료 서비스를 선택했거나, 업무와 투자 등 고급 활용을 많이 하는 이용자가 유료 서비스로 이동했을 가능성도 있다.
업무 문서 요약, 무엇을 올렸는지가 핵심
회사 문서를 AI에 넣어 요약하는 행위 자체가 항상 위험한 것은 아니다.
기업이 승인한 내부 AI 시스템을 사용하고 외부 전송이 허용된 자료라면 문제가 없을 수 있지만 고객 개인정보와 계약서, 영업전략, 소스코드, 재무자료를 외부 AI에 그대로 입력하면 보안사고로 이어질 수 있다.
투자 분석도 판단 대행은 위험
기업 실적을 정리하거나 금융용어를 설명받는 것과 AI의 답변만 믿고 매수·매도 결정을 내리는 것은 다르다.
생성형 AI는 최신 정보가 누락되거나 사실과 다른 내용을 만들어낼 수 있어 결과를 독립적으로 확인할 필요가 있다.
39.2%라는 숫자보다 중요한 것
이번 조사에서 가장 중요한 것은 이용자 39.2%가 불법행위를 했다는 뜻이 아니라 생성형 AI의 활용 범위가 넓어지면서 초상권·개인정보·영업비밀·금융 판단 같은 기존 사회의 위험도 함께 AI 안으로 들어오고 있다는 점이다.
앞으로 필요한 것은 AI 사용 자체를 막는 것보다 어떤 정보를 입력해서는 안 되는지, 어떤 결과를 다시 확인해야 하는지에 대한 구체적인 이용 기준이다.
미디어원 Copyrights ⓒ MediaOne. 무단전재 및 재배포 금지.
