오픈AI가 AI 콘텐츠 생성 정책을 전면 개편하면서, 챗GPT의 이미지 생성 기능이 한층 자유로워졌다.
이제는 유명인의 얼굴을 AI로 생성하는 것이 가능해졌고, 인종적인 이미지나 특정한 스타일을 반영한 콘텐츠도 제작할 수 있게 되었다.
이 같은 변화는 AI 콘텐츠 생성의 새 지평을 여는 동시에, 윤리적 논란을 불러일으킬 것으로 예상된다.
과연 오픈AI의 이러한 변화가 어떤 의미를 가지며, 사용자와 사회에 어떤 영향을 미칠까?
유명인 이미지 생성, 이제 가능해졌다
오픈AI는 3월 28일(현지시간) 트위터(X)와 서브스택을 통해 AI 정책 변경 사항을 발표했다.
오픈AI의 모델 행동 책임자인 조앤 장(Joanne Jang)은 이번 변화에 대해 다음과 같이 설명했다.
"우리는 민감한 분야에서 일괄적인 거부보다, 현실 세계의 피해를 예방하는 데 초점을 맞춘 접근 방식으로 전환하고 있습니다."
이제 챗GPT의 이미지 생성 기능에서 유명인의 모습을 AI로 만들 수 있으며, 이를 위해 사용자가 직접 옵션 목록에서 유명인을 선택하도록 하는 방식이 도입된다.
다만, 오픈AI가 모든 유명인을 허용하는 것이 아니라, 사용자의 선택을 존중하는 방향으로 변경한 것이 특징이다.
이전까지 오픈AI는 AI 모델을 통해 유명인의 모습을 생성하는 것을 엄격하게 제한해 왔다.
하지만 이제는 AI 생성 이미지의 자유도를 높이고, 사용자에게 더 많은 선택권을 부여하는 방향으로 전환한 것이다.
'공격적' 콘텐츠와 증오 상징도 허용? 오픈AI의 위험한 도전
가장 주목할 부분은 '공격적인 콘텐츠'와 '증오 상징'에 대한 정책 변화다.
오픈AI는 "이 사람의 눈을 더 아시아인처럼 보이게 해줘"나 "이 사람을 더 뚱뚱하게 만들어 줘" 같은 요청도 허용할 것이라고 발표했다.
또한, 나치의 상징인 하켄크로이츠(卍)와 같은 증오 상징 역시, 특정한 교육적이거나 문화적인 맥락에서 사용될 수 있도록 정책을 완화했다.
이전까지는 이러한 요소들이 AI 생성 이미지에서 엄격하게 차단되었지만, 이제는 오용되지 않는 한 허용될 가능성이 높아진 것이다.
다만, 오픈AI는 여전히 극단주의적 사상을 지지하거나 조장하는 콘텐츠는 금지한다고 강조했다.
오픈AI 측은 "정책 완화가 안전 기준을 낮추는 것이 아니라, 보다 현실적인 접근 방식"이라며 이를 정당화했다.
하지만 전문가들은 이러한 정책 변화가 사회적 혼란을 초래할 가능성이 있다고 우려하고 있다.
AI 표현의 자유 vs 윤리적 문제, 논란은 계속될 것
이번 변화는 단순한 기술적 조정이 아니라, 미국 정부의 정치적 기조와도 맞물려 있다는 분석이 나오고 있다.
최근 미국 정부는 빅테크 기업들의 '정치적 검열'을 강하게 비판하며, 기술 기업들이 특정 정치적 성향을 이유로 콘텐츠를 제한하는 것에 대해 조사에 착수했다. 이러한 흐름 속에서 오픈AI도 보다 자유로운 콘텐츠 생성을 허용하는 방향으로 정책을 수정한 것으로 보인다.
이미 지난해 8월, 일론 머스크의 xAI는 챗봇 '그록'을 통해 가드레일을 대폭 해제하며 큰 화제를 모았다. 그록은 트럼프 대통령과 카멀라 해리스 부통령의 패러디 이미지를 비롯해, 총을 든 피카츄, 술 마시는 미키마우스 등 파격적인 콘텐츠를 생성할 수 있도록 했다.
오픈AI 역시 유사한 길을 걷게 되면서, 향후 AI 콘텐츠 생성과 관련된 윤리적 논란은 더욱 뜨거워질 전망이다.
AI 이미지 생성의 미래는?
오픈AI의 새로운 정책 변화는 AI 콘텐츠 생성의 자유도를 대폭 확장하는 중요한 전환점이 될 것이다.
유명인 이미지 생성부터 증오 상징까지, 보다 다양한 콘텐츠가 만들어질 수 있도록 허용하는 것은 창작의 가능성을 넓히는 동시에, 악용될 가능성도 내포하고 있다.
특히 AI 윤리와 표현의 자유 간의 균형을 어떻게 맞출 것인가에 대한 논의가 앞으로 더욱 심화될 것으로 보인다.
오픈AI의 이 같은 변화가 긍정적인 방향으로 작용할지, 아니면 또 다른 논란을 불러올지는 앞으로의 상황을 지켜봐야 할 것이다.
당신을 위한 3줄 요약
1️⃣ 오픈AI가 AI 이미지 생성 정책을 완화해, 유명인 및 인종적 이미지 생성이 가능해졌다.
2️⃣ 공격적인 콘텐츠나 증오 상징도 특정 맥락에서는 허용되지만, 악용 방지를 위한 기술적 조치는 강화된다.
3️⃣ 표현의 자유를 넓히는 동시에 윤리적 논란도 커질 전망이다.
3 line summary for you
1️⃣ OpenAI has relaxed AI image generation policies, allowing for celebrity and racial images.
2️⃣ Offensive content and hate symbols are permitted in certain contexts, but misuse prevention is reinforced.
3️⃣ This change expands freedom of expression while raising ethical concerns.
"당신의 학습 스타일에 맞춘 효율적인 학습, Study Duck과 함께하세요!"
MBTI에 따라 맞춤형 학습법을 적용하면, 학습 효과가 두 배로! 혼자 학습하면 빠르게 배울 수 있지만, Study Duck은 꾸준히 장기간 학습을 도와줍니다. 학습 타이머로 집중을 유지하고, 리더보드에서 다른 사람들과 경쟁하며 꾸준함을 유지하세요. 지금 바로 Study Duck으로 학습의 새로운 장을 열어보세요!
