미디어원 ㅣ 김정호기자
AI가 일상 속 편의 기능을 넘어 공공 의사결정의 도구로 들어오고 있다. 채용 서류를 분류하고, 대출 가능성을 판단하고, 복지 대상자를 선별하며, 의료 진단을 보조하는 방식으로 AI의 쓰임은 이미 사회적 판단의 영역에 닿아 있다. 이 변화가 효율을 높일 수 있다는 기대는 분명하지만, 동시에 누가 어떤 기준으로 불이익을 받을 수 있는지에 대한 질문도 커지고 있다.
리서치 및 데이터 인텔리전스 기업 피앰아이(PMI)가 만 20~59세 생성형 AI 사용 경험자 1000명을 대상으로 실시한 ‘AI 공정성과 성별 편향에 관한 인식 조사 2026’은 이 문제의 방향을 분명하게 보여준다. 응답자 다수는 AI 도입 자체를 거부하기보다, 공공 영역에 적용하기 전에 충분한 검증과 설명 가능한 기준을 갖춰야 한다는 쪽에 무게를 실었다.
이번 조사에서 가장 강하게 드러난 대목은 ‘속도보다 검증’이라는 시민 인식이다. 공공기관 AI 도입 방식에 대해 응답자의 68.1%는 “시간이 걸리더라도 충분한 검증을 거쳐야 한다”고 답했다. 반면 “편의성과 효율성을 위해 빠른 도입이 중요하다”는 응답은 20.7%에 그쳤다. AI를 쓰지 말자는 여론이 아니라, 공적 판단에 쓰기 위해서는 먼저 신뢰를 확보해야 한다는 요구로 읽힌다.
검증 우선 응답은 여성과 고연령층에서 더 높게 나타났다. 여성 응답자의 72.6%가 충분한 검증을 우선해야 한다고 답해 남성 63.6%보다 9%포인트 높았다. 연령별로도 50대의 검증 우선 응답은 75.4%로 20대 60.6%보다 뚜렷하게 높았다.
이 차이는 AI 기술을 바라보는 기대와 우려가 사회적 경험에 따라 다르게 형성된다는 점을 보여준다. 여성은 채용, 복지, 돌봄, 안전 등 여러 영역에서 성별에 따른 차별이나 구조적 불평등을 더 직접적으로 체감해 왔을 가능성이 크다. 고연령층은 공공서비스 이용에서 행정 판단의 투명성, 이의제기 가능성, 사람의 최종 책임을 더 중요하게 볼 수 있다.
반면 AI를 업무에 매일 활용하는 헤비 유저 집단에서는 빠른 도입에 대한 수용도가 35.8%로 나타났다. 라이트 유저 17.4%의 두 배 수준이다. 이는 AI 사용 경험이 많을수록 효율성에 대한 기대도 함께 커진다는 뜻이다. 다만 헤비 유저가 빠른 도입을 더 수용한다고 해서 검증 절차가 불필요하다는 의미는 아니다. 오히려 실제 활용자가 늘수록 AI의 장점과 한계를 구체적으로 아는 집단이 생기고, 이들을 포함한 실사용 기반 검증 체계가 더 중요해진다.
이번 조사에서 응답자의 63.8%는 한국 사회에 맞는 AI 성별 편향 점검 기준이 별도로 필요하다고 답했다. 남성 62.0%, 여성 65.6%로 성별과 관계없이 60%를 넘겼고, 50대에서는 72.8%까지 올라갔다.
여기서 한국형 기준은 단순히 국내용 규제 문서를 하나 더 만들자는 뜻이 아니다. AI가 한국어 표현, 한국의 노동시장 관행, 가족·돌봄 구조, 성역할 인식, 직무별 성비, 지역과 세대에 따른 언어 사용을 제대로 반영해 검증돼야 한다는 의미에 가깝다. 해외에서 만들어진 공정성 지표를 그대로 번역해 적용하는 방식만으로는 한국 사회의 편향을 충분히 잡아내기 어렵다는 문제의식이다.
예를 들어 채용 AI가 이력서의 경력 공백을 평가할 때, 출산과 육아로 인한 경력 단절을 어떻게 해석하는지에 따라 결과는 달라질 수 있다. 복지 AI가 가구 구성과 돌봄 책임을 판단할 때도 성별에 따라 다르게 누적된 사회적 조건을 고려하지 못하면 불리한 결과가 반복될 수 있다. 한국형 점검 기준은 이런 맥락을 기술 평가 안으로 끌어들이자는 요구다.
AI 도입 전 정부의 사전 점검이 필요하다고 본 분야에서는 범죄 예방 및 치안, 의료 진단이 성별 차이 없이 최상위권에 올랐다. 범죄 예방 및 치안은 남성 50.0%, 여성 47.5%였고, 의료 진단은 남녀 모두 44.0%로 나타났다. 두 분야는 AI 판단 오류가 개인의 신체, 생명, 안전과 직접 연결된다는 공통점이 있다.
반면 복지 대상자 선정과 채용에서는 성별에 따라 우려 지점이 다르게 나타났다. 복지 대상자 선정은 여성 46.6%가 사전 점검 필요 분야로 꼽아 남성 41.2%보다 높았다. 채용은 남성 39.6%, 여성 34.8%로 남성의 응답 비율이 더 높았다.
이 결과는 AI 편향 정책이 하나의 포괄 기준만으로는 부족하다는 점을 시사한다. 의료 AI와 치안 AI는 안전성과 오류 방지, 책임 소재가 핵심이 될 수 있다. 채용 AI는 직무 적합성과 차별 금지, 설명 가능성이 중요하고, 복지 AI는 취약계층 누락 방지와 이의제기 절차가 핵심이 된다. 같은 AI라도 쓰이는 분야에 따라 검증 기준과 감사 방식이 달라져야 한다.
AI의 공정성을 확보하기 위해 가장 중요한 요소로는 ‘AI 판단 근거를 설명해주는 기능’이 21.6%로 1위를 차지했다. 이어 ‘사람이 최종 검토하는 절차’가 17.6%로 뒤를 이었다. 시민들은 AI가 판단을 내렸다는 사실만으로는 충분하지 않다고 보고 있다. 왜 그런 결론이 나왔는지 설명할 수 있어야 하고, 특히 공공 영역에서는 사람이 최종 책임을 져야 한다는 인식이 강하다.
설명 가능한 AI는 단순한 기술 용어가 아니다. 채용에서 탈락한 지원자가 왜 낮은 평가를 받았는지, 복지 대상에서 제외된 시민이 어떤 기준에서 배제됐는지, 의료 진단 보조 AI가 어떤 근거로 위험도를 판단했는지 알 수 있어야 한다는 뜻이다. 설명이 없으면 이의제기도 어렵고, 이의제기가 어려우면 공공 서비스의 신뢰가 흔들린다.
사람의 최종 검토 역시 중요하다. AI는 대량의 데이터를 빠르게 처리할 수 있지만, 사회적 맥락과 예외 상황을 모두 이해한다고 보기 어렵다. 특히 성별, 연령, 장애, 가족 구조, 고용 형태처럼 개인의 삶과 얽힌 판단에서는 사람이 다시 확인하고 책임지는 절차가 필요하다. 시민들이 원하는 AI는 사람을 대체하는 판단자가 아니라, 사람이 더 정확하고 공정하게 판단하도록 돕는 도구에 가깝다.
AI 제도화가 본격화되는 국면에서 중요한 것은 기술 도입을 막는 규제가 아니라 신뢰를 만드는 검증 인프라다. PMI 조민희 대표는 이번 조사가 “국민들이 기대하는 것은 기술 도입 속도 그 자체가 아니라 한국 사회의 맥락을 반영한 신뢰할 수 있는 검증 절차와 설명 가능성”이라는 점을 보여준다고 설명했다.
이 말은 AI 정책의 방향을 압축한다. AI 산업 육성과 AI 신뢰 확보는 대립 관계가 아니다. 공공기관과 기업이 AI를 적극적으로 도입하려면, 오히려 시민이 납득할 수 있는 사전 점검과 사후 감사, 설명 가능성, 사람의 최종 검토 절차가 먼저 갖춰져야 한다. 검증 기준이 불명확하면 AI 도입은 오히려 사회적 저항과 법적 분쟁, 신뢰 하락으로 이어질 수 있다.
앞으로 필요한 것은 분야별 기준이다. 채용 AI에는 성별·연령·학력·경력 공백에 따른 차별 가능성을 검증하는 기준이 필요하다. 복지 AI에는 취약계층 누락 여부와 이의제기 절차가 필요하다. 의료 AI에는 안전성과 설명 가능성, 의사의 최종 책임 구조가 필요하다. 치안 AI에는 과잉 감시와 특정 집단 낙인 효과를 막는 강한 통제 장치가 필요하다.
AI 성별 편향은 특정 성별을 노골적으로 차별하는 결과만을 뜻하지 않는다. 과거 데이터에 포함된 불평등이 학습되고, 알고리즘이 이를 반복하며, 사용자는 그 판단을 객관적 결과로 받아들이는 과정 전체가 문제다. AI가 차별을 의도하지 않아도 차별적 결과는 나올 수 있다. 그래서 검증은 기술 성능 평가에 머물러서는 안 된다.
이번 조사에서 드러난 시민 인식은 분명하다. AI는 필요하지만, 공공 영역에서는 더 엄격해야 한다. 해외 기준도 참고해야 하지만, 한국 사회의 언어와 제도, 성별 경험을 반영한 별도 기준이 필요하다. 그리고 AI 판단에는 설명이 있어야 하며, 최종 책임은 사람이 져야 한다.
AI가 사회의 중요한 판단 도구가 되는 시대일수록 공정성은 선택 사항이 아니라 기반 시설이다. 도로가 안전해야 자동차가 달릴 수 있듯, 검증 체계가 신뢰를 얻어야 공공 AI도 확산될 수 있다. PMI 조사 결과는 한국 사회가 AI를 무조건 두려워하는 것이 아니라, 제대로 쓰기 위한 조건을 묻기 시작했다는 신호로 볼 수 있다.
미디어원 Copyrights ⓒ MediaOne. 무단전재 및 재배포 금지.
