구글의 이미지 생성 AI '이매진 3' 출시, 과도한 가드레일에 불만 폭발!

구글이 최신 이미지 생성 AI '이매진 3(Imagen 3)'를 미국에서 정식 출시하며, 이미지 생성 분야에 새로운 바람을 불러일으켰습니다.

그러나 기대와 달리 이매진 3에 대한 사용자의 반응은 엇갈리고 있습니다.

이전 모델인 '이매진 2'보다 더 빠르고 사실적인 이미지 생성이 가능하다는 점에서 칭찬을 받는 한편, 과도한 가드레일로 인해 무해한 프롬프트조차도 차단된다는 불만이 제기되고 있습니다.

이매진 3의 출시와 관련된 논란을 통해 AI 기술의 발전과 그 한계에 대해 함께 살펴보겠습니다.

 

1. '이매진 3'의 기능과 성능

구글은 지난 5월 개발자 회의에서 '이매진 3'를 공개하며 이전 모델보다 대폭 개선된 성능을 자랑했습니다.

'이매진 3'는 더 빠른 이미지 생성 속도, 더욱 정교한 프롬프트 인식, 그리고 사진처럼 사실적인 인물 생성 기능을 제공합니다.

또한 다국어 지원과 디지털 워터마킹 기능, 다양한 화면 비율을 지원하는 등, 창작자들에게 더 많은 옵션을 제공하고 있습니다.

구글은 이를 최고의 성능을 가진 이미지 생성 AI로 소개하며 대대적인 홍보를 펼쳤습니다.

 

그러나 일부 사용자들은 구글의 AI가 기대에 미치지 못한다고 평가하고 있습니다. 특히 과도한 콘텐츠 필터링이 문제가 되고 있습니다.

한 사용자에 따르면, 이매진 3는 너무 엄격한 검열을 적용하여 무해한 사이보그 그림조차도 생성할 수 없다고 불만을 표했습니다.

이는 구글이 AI 기술의 안전성과 윤리성을 강조하며, 지나치게 높은 가드레일을 설정한 결과입니다.

 

2. 과도한 검열과 사용자 불만

구글이 이매진 3에 강력한 콘텐츠 필터링을 도입한 배경에는 과거 '제미나이' AI에서 발생한 인종 편향적 이미지 생성 문제가 있습니다.

이 사건으로 인해 구글은 많은 비판을 받았고, 이후 이매진 3에서는 더욱 엄격한 가드레일을 적용했습니다.

그러나 이는 창작의 자유를 제약하는 결과로 이어졌습니다.

사용자들은 이매진 3가 너무 많은 프롬프트를 차단해버려, 창의적인 작업을 진행하는 데 어려움을 겪고 있다고 지적하고 있습니다.

 

특히 레딧 등 커뮤니티에서는 사용자들이 자신의 경험을 공유하며 불만을 토로하고 있습니다.

"내 입력의 절반은 거부당했다"는 한 사용자의 말처럼, 일부 무리하지 않은 시도조차도 AI가 차단하는 상황이 발생하고 있습니다.

이는 구글이 AI의 윤리적 문제에 지나치게 민감하게 대응하고 있다는 반증일 수 있습니다.

 

3. 우회 방법과 창작자들의 노력

이매진 3의 강력한 검열에도 불구하고, 창작자들은 이를 우회하는 방법을 찾아가고 있습니다.

더 버지(The Verge)는 이매진 3를 통해 소닉, 마리오, 미키 마우스 등 저작권이 있는 캐릭터와 유사한 이미지를 생성할 수 있었다고 보도했습니다.

이는 AI가 직접적인 단어 대신 유사한 묘사를 통해 제한을 피할 수 있다는 점을 보여줍니다.

 

이와 같은 상황은 AI 기술이 계속해서 발전하고 있지만, 그 한계와 문제점 역시 함께 드러나고 있음을 의미합니다.

구글은 앞으로도 이러한 문제를 해결하고 사용자 경험을 개선하기 위해 지속적인 업데이트와 개선 작업을 이어나갈 것으로 보입니다.

 

구글의 최신 이미지 생성 AI '이매진 3'는 분명 기술적으로 발전한 모델입니다.

그러나 과도한 검열과 엄격한 가드레일이 사용자들의 창작 자유를 제한하고 있다는 불만도 적지 않습니다.

AI 기술이 윤리적 문제에 대응하기 위해 더욱 민감해지는 상황에서, 구글은 사용자들이 필요로 하는 창의성과 자유를 보장하면서도 윤리적 문제를 해결할 수 있는 균형점을 찾아야 할 것입니다.

AI 기술이 발전할수록, 그에 따른 책임과 규제 역시 함께 발전해야 할 필요성이 더욱 커지고 있습니다.

당신을 위한 3줄 요약

1. 구글의 이미지 생성 AI '이매진 3'가 미국에서 출시되었지만, 과도한 가드레일로 사용자들의 불만이 커지고 있습니다.
2. 일부 사용자들은 창작의 자유를 제한받고 있다고 불평하며, 무해한 프롬프트조차 차단되는 상황을 지적하고 있습니다.
3. 구글은 과거 AI 문제를 해결하기 위해 강력한 필터링을 도입했으나, 사용자 경험 개선이 필요한 상황입니다.

3 line summary for you

1. Google's image generation AI 'Imagen 3' has launched in the U.S., but users are frustrated with excessive guardrails.
2. Some users complain about restrictions on creativity, with even harmless prompts being blocked.
3. Google's strong filtering aims to address past AI issues, but user experience improvements are needed.

공감과 댓글은 저에게 큰 힘이 됩니다.

 

Starting Google Play App Distribution! "Tester Share" for Recruiting 20 Testers for a Closed Test.

 

Tester Share [테스터쉐어] - Google Play 앱