마이크로소프트, AI 환각 문제를 해결하는 '수정' 기능 발표!

AI 기술이 발전함에 따라, 우리 생활 속에서 AI가 생성한 콘텐츠의 신뢰성은 점점 더 중요해지고 있습니다.

마이크로소프트(MS)는 최근 자사의 AI 모델에서 발생할 수 있는 '환각' 현상을 식별하고 수정하는 새로운 기능을 출시했습니다.

이 기술은 AI 생성 텍스트의 사실성을 높여, 사용자들에게 더 신뢰할 수 있는 정보를 제공하는 데 큰 역할을 할 것으로 기대됩니다.

AI 환각 현상, 왜 문제인가?

AI 모델이 생성하는 텍스트는 때때로 사실이 아닌 정보를 포함할 수 있습니다.

이를 우리는 '환각'이라고 부릅니다. 예를 들어, AI가 제공하는 데이터나 정보가 실제로 존재하지 않거나 잘못된 경우, 사용자는 잘못된 정보를 바탕으로 결정을 내릴 위험이 있습니다.

이런 환각 문제는 특히 의료, 법률, 교육 등 중요한 분야에서 큰 문제로 작용할 수 있습니다. MS는 이러한 문제를 해결하기 위해 새로운 '수정(correction)' 기능을 도입했습니다.

'수정' 기능의 작동 방식

MS의 새로운 수정 기능은 '애저 AI 콘텐츠 안전 API'를 활용하여, 메타의 '라마'와 오픈AI의 'GPT-4o' 등 여러 대형 언어 모델(LLM)이 생성하는 텍스트에서 환각을 탐지하고 수정합니다.

먼저, AI는 탐지 모델을 사용하여 오류가 있을 수 있는 텍스트를 찾아냅니다. 그 후, 수정 모델을 통해 사실의 출처인 ‘접지(ground) 문서’와 비교하여 불일치가 발견되면, 해당 내용을 수정하는 방식으로 작동합니다.

 

이러한 기능은 MS가 지난 3월에 출시한 '애저 AI 스튜디오'의 일부로, 사용자들이 AI 생성 콘텐츠의 신뢰성을 높일 수 있도록 돕기 위해 개발되었습니다.

MS 대변인은 "이 수정 기능은 앱 개발자가 사용자 불만과 잠재적인 평판 위험을 줄이는 데 도움이 되어, AI 생성 콘텐츠의 신뢰성을 크게 향상시킬 수 있다"고 설명했습니다.

 

 

전문가들의 우려

하지만 이 기능에 대한 전문가들의 경고도 있습니다. 일부 연구원들은 이 수정 기능이 환각의 근본 원인을 해결하지 못할 것이라고 지적했습니다.

예를 들어, 오스 키즈 워싱턴대학 연구원은 "몇몇 문제는 줄어들 수 있지만, 새로운 문제도 생길 것"이라며 "생성 AI에서 환각을 제거하려는 것은 물에서 수소를 제거하려는 것과 같다"고 말했습니다.

즉, 기술의 기본 원칙이 변하지 않는 한 환각 문제는 여전히 존재할 수 있다는 것입니다.

 

또한, 마이크 쿡 퀸 메리 대학교 연구원은 "수정 기능이 정상적으로 작동하더라도 AI의 신뢰성과 설명 가능성 문제를 더욱 악화시킬 위험이 있다"고 경고했습니다.

이러한 점을 감안할 때, 사용자들은 이 기능이 완벽하지 않다는 점을 인지해야 할 것입니다.

비용 문제와 비즈니스 측면

한편, MS의 수정 기능은 기본적으로 무료로 제공되지만, 환각을 감지하기 위한 ‘접지 감지’ 기능은 제한적입니다.

월 5000개의 텍스트 기록까지만 무료로 제공되며, 이후에는 1000개 텍스트 기록당 38센트의 비용이 부과됩니다. 이 점에 대해 비판이 제기되고 있으며, 사용자들은 추가 비용 부담을 느낄 수 있습니다.

 

마이크로소프트의 새로운 '수정' 기능은 AI 생성 콘텐츠의 신뢰성을 높이기 위한 중요한 첫걸음입니다.

그러나 전문가들의 우려와 함께 비즈니스 모델에 대한 비판도 고려해야 할 사항입니다.

기술이 계속 발전하면서, 환각 문제를 해결하기 위한 더 나은 방법이 필요할 것입니다.

 

구독!! 공감과 댓글은 저에게 큰 힘이 됩니다.

Starting Google Play App Distribution! "Tester Share" for Recruiting 20 Testers for a Closed Test.

Tester Share [테스터쉐어] - Google Play 앱