AI는 성적 이미지 피해 지원을 어떻게 바꾸는가
PAPS에서는 현재 엔지니어 2명이 AI를 활용하여 성적 이미지 피해를 입은 분들을 지원하기 위한 시스템을 개발하고 있습니다.
인터넷에 한번 이미지가 퍼지면 그것을 찾아내기란 매우 어렵습니다. SNS, 게시판, 해외 사이트, 동영상 사이트 등 이미지가 놓이는 곳은 다양하며, 사람의 손만으로 계속 찾기에는 한계가 있습니다.
PAPS는 2019년부터 미쓰비시재단의 지원을 받아 머신러닝을 활용한 피해 대책 연구·개발을 이어왔습니다. 2022년도부터는 AI를 활용한 지원 시스템 개발에도 본격적으로 임해 왔습니다. 지난 1년간 AI 기술이 크게 발전하면서, 지금까지 사람의 손에 의존할 수밖에 없었던 작업에도 새로운 가능성이 열리고 있습니다.
ProtectionAI ― 피해 이미지를 찾아내는 시스템
현재 개발 중인 'ProtectionAI'는 피해자의 성적 이미지가 인터넷과 SNS에 퍼져 있지 않은지 찾기 위한 시스템입니다.
피해자 본인이 제공한 이미지를 바탕으로 AI가 얼굴 특징을 읽어 '512개의 숫자 나열'로 변환합니다. 이를 전문 용어로 '특징 벡터'라고 합니다. 특징 벡터로부터 얼굴 사진을 복원할 수는 없습니다. 프라이버시를 배려한 형태로 등록할 수 있습니다.
그런 다음 인터넷에서 수집한 이미지와 비교하여 '같은 사람의 이미지일 수 있다'고 판단합니다. 이 비교에는 두 데이터가 얼마나 비슷한지 계산하는 '코사인 유사도'라는 방법을 사용합니다.
현재 ProtectionAI는 약 1억 장 규모의 이미지 데이터를 대상으로 학습과 분석을 진행하고 있습니다.
공개된 AI 기술을 활용하면서 여러 접근을 조합해 검증하고 있습니다. 한편 악용 방지와 안전을 고려하여 상세한 모델 구성과 운용 방법은 공개하지 않습니다.
Paprika ― 인터넷을 뒤지러 가는 시스템
피해 이미지를 찾으려면 인터넷 곳곳을 뒤지러 가야 합니다. 이를 위해 PAPS는 독자적인 크롤러 시스템 'Paprika'를 개발하고 있습니다. 크롤러란 웹사이트를 자동으로 돌아다니며 필요한 정보를 모으는 프로그램입니다. 'Paprika'라는 이름은 PAPS의 'PAP'에 'rika'를 붙인 조어입니다.
피해 이미지는 SNS, 해외 사이트, 익명 게시판, 동영상 사이트 등 다양한 곳으로 확산됩니다. 게다가 사이트마다 이미지가 놓이는 방식과 찾는 방식이 다릅니다. 그래서 일반적인 크롤러로는 대응이 어렵다는 문제가 있습니다.
여기에 공개하고 있습니다:https://paps-jp.github.io/paprika/
이전에는 웹페이지의 내부 구조인 'DOM'을 읽어 자동 조작하는 방법도 검토했습니다. DOM이란 웹페이지 안의 버튼, 입력란, 이미지, 링크 등의 구조를 말합니다. 하지만 실제 웹사이트는 복잡하고 사이트마다 구조가 달라 잘되지 않는 경우가 많았습니다.
그래서 현재는 Vision AI, 즉 '화면을 보고 이해하는 AI'를 활용하고 있습니다. 사람이 브라우저 화면을 보고 '여기에 입력란이 있다', '이 버튼을 누르면 되겠다'고 판단하듯, AI가 화면을 보면서 조작 방법을 생각합니다.
Paprika에는 AI가 안전한 실험 환경 안에서 이미지를 가져오기 위한 코드를 자동으로 만들고 시험하는 구조도 도입했습니다. 이 안전한 실험 환경을 '샌드박스'라고 부릅니다. 실패해도 바깥 시스템에 영향을 주지 않도록 격리된 공간입니다.
AI 개발에서는 '작게 나누는 것'이 중요합니다
AI 개발은 고성능 AI를 쓰는 것만이 아니라 시스템 전체를 어떻게 설계하는지도 중요합니다.
PAPS는 AI 기능을 하나의 큰 시스템으로 묶지 않고 기능별로 작게 나누어 쓰는 '마이크로 API화'를 중시합니다.
API란 어떤 기능을 밖에서 호출해 쓰기 위한 입구 같은 것입니다. 예를 들어 이미지를 읽는 기능, 얼굴 특징을 추출하는 기능, 비슷한 이미지를 찾는 기능, 삭제 요청 폼을 조작하는 기능 등을 각각 작게 나누어 둡니다.
큰 AI 시스템, 특히 GPU를 쓰는 처리는 기동에 시간이 걸릴 수 있습니다. GPU는 AI 계산을 고속으로 수행하는 장치입니다. 필요한 기능만 필요할 때 쓸 수 있게 나눔으로써 처리를 효율화하고, 문제가 생겼을 때 원인을 찾기 쉽게 하고 있습니다.
독자 AI 모델 개발을 향하여
ProtectionAI는 피해자 본인이 제공한 이미지에서 얼굴 특징을 읽어 인터넷상의 이미지와 대조하는 구조를 사용합니다.
현재 이 얼굴 인식의 핵심에는 고성능 얼굴 인식 AI 모델을 활용하고 있습니다. 정확도가 높아 피해 이미지를 찾는 데 중요한 역할을 하고 있지만, 앞으로는 PAPS 독자적인 얼굴 인식 AI 모델을 개발·운용하는 것을 목표로 하고 있습니다.
그 이유는, 성적 이미지 피해 지원에서는 피해자의 얼굴이라는 매우 민감한 정보를 다루기 때문입니다. 어떤 데이터를 쓰고, 어떻게 학습하고, 어떻게 대조하며, 누가 접근할 수 있는지를 지원 현장에 맞게 엄격히 관리할 수 있는 것이 중요합니다.
독자 모델을 가지면 피해자 지원에 특화된 정확도 개선, 안전 설계, 악용 방지 장치를 더 세밀하게 넣을 수 있습니다.
한편 독자적인 얼굴 인식 AI 모델을 개발하려면 큰 계산 능력이 필요합니다. 그래서 GPU 같은 계산 자원이 필수적입니다. GPU는 AI 계산을 고속으로 수행하는 장치입니다.
PAPS는 현재 AMD EPYC을 탑재한 데이터센터급 서버 2대, PC 서버 3대, NAS 3대, GPU 7대를 갖추고 있습니다. AMD EPYC은 대량 처리를 위한 서버용 고성능 CPU이고, NAS는 여러 서버에서 쓸 수 있는 대용량 저장 장치입니다.
또한 SSD 가격이 급등하기 전에 32TB의 SSD를 확보하여 빅데이터를 다루기 위한 환경도 구축하고 있습니다.
열과 소음과의 싸움
AI 개발에서는 계산 능력뿐 아니라 '열'과 '소음'도 큰 과제입니다.
GPU는 AI 계산을 할 때 큰 열을 냅니다. 장시간 높은 부하가 이어지면 온도가 지나치게 올라 성능이 떨어지거나 기기 수명이 짧아집니다. 그래서 GPU 온도를 60도 전후로 유지하는 것이 중요합니다.
PAPS는 GPU에 히트싱크를 달고 서큘레이터와 팬을 여러 대 사용해 열이 차지 않도록 하고 있습니다. 히트싱크는 기기의 열을 빼내는 금속 부품입니다. 작년 여름은 매우 혹독했기에 올여름까지는 더 본격적인 열 대책을 마련해야 합니다.
또한 서버와 GPU가 사무실 안에서 돌아가기 때문에 냉각 팬 소음도 문제입니다. 그래서 12cm 대형 팬을 여러 개 사용해 낮은 회전수로도 충분한 풍량을 확보하도록 하고 있습니다.
AI 개발은 알고리즘만이 아닙니다. 열, 소음, 전기, 설치 공간 같은 꽤 수수한 문제와의 싸움이기도 합니다.
'찾는 기술'이 지닌 무서움
한편 얼굴을 찾는 기술에는 큰 과제도 있습니다. 개발을 시작할 당시에는 이렇게 높은 정확도로 사람 얼굴을 찾아낼 수 있게 되리라고는 상상하지 못했습니다. 실제로 운용해 보니 예상을 뛰어넘는 정확도로 이미지를 찾는 경우가 있어, 빅데이터와 AI의 힘에 놀라는 동시에 두려움도 느꼈습니다. 이제는 웹 검색으로 나오지 않게 된, 10년 가까이 전에 피해를 입은 분의 이미지를 찾아낸 적도 있습니다.
피해자의 이미지를 찾을 수 있다는 것은, 뒤집어 말하면 어떤 사람이 과거에 성적 이미지 피해를 입었는지를 몇 초 만에 조사당할 가능성이 있다는 뜻이기도 합니다.
피해자를 돕기 위한 기술이 누군가를 감시하거나 과거를 파헤치거나 차별과 괴롭힘에 쓰일 가능성이 있습니다. 그렇기에 PAPS는 '악용되지 않는 구조'를 만드는 것을 소중히 합니다.
또한 피해 이미지를 찾으려면 지원하는 쪽이 피해자의 얼굴을 확인해야 한다는 어려움도 있습니다. '찾아 주었으면', 그러나 '보이고 싶지 않다'는 마음이 동시에 존재하기 때문입니다. 성적 이미지 피해 지원에는 이런 딜레마가 있습니다. PAPS는 사회에 필요한 지원과 한 사람 한 사람의 프라이버시 보호, 그 양쪽을 고민하며 개발을 진행하고 있습니다.
AI 기술의 발전으로 지금까지 사람 손으로 오랜 시간이 걸리던 작업의 일부를 자동화할 가능성이 넓어지고 있습니다. 하지만 성적 이미지 피해 지원에서 AI는 마법의 도구가 아닙니다. 정확도, 비용, 열과 소음, 보안, 그리고 피해자의 프라이버시와 존엄을 어떻게 지킬 것인가 하는 과제가 있습니다.
PAPS가 AI를 개발하는 것은 새로운 기술을 쓰고 싶어서가 아닙니다. 목적은 피해를 입은 분이 조금이라도 빨리, 안전하게 자신의 생활을 되찾도록 하는 것입니다.
한편 얼굴 인식 AI 기술은 잘못 쓰이면 감시나 괴롭힘에 악용될 위험이 있습니다. 그렇기에 PAPS는 '누가, 무엇을 위해, 어디까지 써도 되는가'라는 규칙을 중시합니다.
또한 악용을 막기 위해 API 사양이나 상세한 검색 방법 등 공개해서는 안 되는 정보도 있습니다. 투명성을 소중히 하면서도 피해자의 안전을 지키기 위해 공개할 수 있는 정보와 감춰야 할 정보를 신중히 구분하고 있습니다.
프라이버시 보호는 가장 중요한 원칙입니다. 하지만 본인 의사에 반해 퍼진 이미지를 찾아 삭제 요청으로 연결하는 것에는 높은 공익성이 있습니다. 본인 동의를 전제로, 필요 최소한의 범위에서, 엄격히 관리하며 기술을 쓰는 것이 중요합니다.
PAPS는 AI의 편리함뿐 아니라 위험성과도 마주하면서, 피해를 입은 분의 존엄을 지키기 위해 개발을 이어가고 있습니다.
