AI의 급속한 발전은 전 세계 산업 전반에 혁신을 가져오고 있지만, 그 이면에는 우리가 쉽게 간과하는 중요한 문제가 존재한다. 바로 AI 학습 데이터에서 비롯된 ‘편향성’이다. 특히 이미지 생성 AI의 경우, 인종, 성별, 연령, 문화적 배경 등에서 인간 사회의 다양성을 충분히 반영하지 못하고 있다는 지적이 잇따르고 있다. 이 같은 문제를 해결하고자 최근 미국에서 주목할 만한 글로벌 프로젝트가 시작됐다. 바로 이노션 미국법인과 스톡 이미지 기업 POC Stock, 그리고 22개 글로벌 에이전시 및 콘텐츠 제작사들이 참여한 ‘Refacing The Future’ 프로젝트다.
AI가 만든 세상은 누구를 위한 것인가?
‘Refacing The Future’ 프로젝트는 단순한 기술 개발을 넘어, 기술이 인간 사회를 어떻게 인식하고 반영해야 하는지에 대한 철학적 질문에서 출발했다. 이노션의 크리에이티브 디렉터이자 다큐멘터리 영화 <Wade in the Water>의 감독인 데이비드 메스핀(David Mesfin)은 AI 이미지 생성 툴을 활용해 흑인 서핑 문화를 담고자 했지만, 결과는 실망스러웠다. 그는 “흑인 서퍼를 생성하고 싶었지만, 항상 백인 모델에 피부색만 어둡게 덧입힌 이미지가 나왔다”며 “이 기술이 우리를 전혀 고려하지 않고 만들어졌다는 것을 절감했다”고 회상했다. 이 경험은 그에게 AI가 반영하는 편향이 단순한 기술적 한계가 아닌 구조적인 문제임을 인식하게 했다.
실제로 AI의 편향성은 다양한 데이터로 입증되고 있다. 예를 들어, 미국 내 치과의사의 22%가 아시아계임에도 불구하고, AI가 생성한 관련 이미지 중 아시아인의 비율은 2.3%에 불과하다. 라티노계 간호사는 전체의 약 9.6%를 차지하지만, AI가 생성한 간호사 이미지에서는 단 한 명도 라티노가 등장하지 않았다. 이는 AI가 현실 세계를 왜곡된 방식으로 반영하고 있으며, 그 결과가 사회적 고정관념을 더욱 공고히 할 수 있다는 점에서 심각한 문제로 지적되고 있다.
‘Refacing The Future’ 프로젝트의 구조와 목적
이 같은 문제를 해결하고자 출범한 ‘Refacing The Future’ 프로젝트는 기술적 해법뿐만 아니라, 문화적 이해와 윤리적 책임을 포괄한 접근 방식을 취하고 있다. 이노션 미국법인과 POC Stock이 주도한 이 프로젝트에는 총 22개의 글로벌 에이전시, 16명의 전문 사진작가가 참여했으며, 구글, 어도비, 셔터스톡, 마이크로소프트, 캔바, 아마존, 오픈AI 등 주요 플랫폼 기업에 AI 학습용으로 활용될 10만여 건 이상의 콘텐츠를 제작했다.
프로젝트의 핵심은 ‘현실을 반영하는 데이터셋 구축’이다. 단순히 모델을 사용하는 것이 아니라, 각 커뮤니티를 대표하고 실제 삶을 살아가는 인물들을 섭외하여 촬영함으로써, 보다 진정성 있는 이미지를 제공하는 것이 목표였다. 예를 들어, 흑인 서퍼를 촬영할 때는 성별, 피부색의 톤, 체형 등을 다양하게 고려했고, 촬영에는 남성과 여성 사진작가를 함께 참여시켜 시각적 다양성을 확보했다.
POC Stock의 공동 창립자인 디션 브라운(DeSean Brown)은 “우리가 진정한 변화를 이루기 위해서는 단순히 많은 데이터를 수집하는 것이 아니라, 문화적 맥락과 기술적 정밀성을 반영해 전략적으로 데이터를 구성해야 한다”고 강조했다. 그는 이어 “AI가 진짜 사람처럼 사고하고 판단하려면, 학습 데이터부터 현실을 제대로 반영해야 한다”고 덧붙였다.
‘포용적 AI’를 위한 윤리 가이드북
이 프로젝트의 또 다른 성과는 ‘윤리적 AI 가이드북(Ethical AI Guidebook)’의 제작이다. 이 가이드북은 단순히 이미지 제작의 기법을 소개하는 것을 넘어, 크리에이터와 기술 개발자들이 AI 개발 과정에서 다양성과 포용성을 어떻게 반영해야 하는지에 대한 철학과 실천 방안을 담고 있다.
데이비드 메스핀은 “이 가이드북은 잘못된 출력 결과를 고치는 데서 그치는 것이 아니라, AI 생태계 전반에 걸쳐 장기적인 행동 변화를 이끌기 위한 목적을 가지고 있다”고 말했다. 그는 또한 “콘텐츠 제작자, 에이전시, AI 개발자들에게 포용성을 기술적 의무가 아닌 창의적 기회로 바라보게 만드는 것이 목표”라고 밝혔다.
글로벌 협력으로 나아가는 ‘포용의 AI’
이노션은 이번 프로젝트를 통해 AI가 인간 사회의 다양성을 더 정확히 반영할 수 있는 ‘포용적 AI의 표준’을 제시했다는 점에서 큰 의미가 있다고 강조했다. 이노션의 대표이사 이용우는 “이 프로젝트는 단순한 캠페인을 넘어, 글로벌 산업 전반에 지속가능한 영향을 미칠 수 있는 사회적 실험이었다”며 “앞으로도 다양한 파트너들과 협력해 AI 편향 문제를 해결해 나갈 것”이라고 밝혔다.
또한 이 프로젝트는 단발성에 그치지 않고, 지속적으로 새로운 콘텐츠 파트너를 모집해 데이터셋을 확장해 나갈 계획이다. 메스핀은 “AI 기업의 구성원이라면 누구나 이 프로젝트에 함께할 수 있다”며 “함께할수록 기술은 더 정교해지고, 더 정확하게 인간을 반영할 수 있다”고 강조했다.
AI는 이미 우리의 일상과 산업에 깊이 스며들었다. 하지만 그 AI가 누구를 위해 설계되었는지, 누구를 배제하고 있는지는 이제 우리가 반드시 고민해야 할 문제다. ‘Refacing The Future’ 프로젝트는 이 같은 질문에 대한 첫 번째 실질적 응답이며, AI가 인간 사회를 보다 공정하고 정확하게 반영할 수 있도록 하는 중요한 전환점이 되고 있다.
이 프로젝트는 기술이 반드시 윤리를 동반해야 하며, 포용성은 선택이 아닌 필수임을 보여준다. AI가 진정 인간을 위한 도구가 되기 위해서는, 인간의 모든 얼굴, 모든 이야기, 모든 현실을 담아내야 한다. 그리고 그것은 오늘날 우리가 함께 만들어가야 할 미래의 과제이다.
관련참고기사:Refacing the Future
