반응형 gpt-4o6 GPT가 이상해진 이유?…오픈AI, '나쁜 페르소나'의 정체를 찾아냈다! 인공지능, 왜 갑자기 이상해졌을까?여러분은 혹시 AI가 갑자기 이상한 답을 할 때 놀란 적 있으신가요?그런 경험이 있다면, 이번 오픈AI의 연구 결과는 정말 흥미롭게 들릴 겁니다.오픈AI는 최근 GPT-4o 등 자사 모델에서 의도하지 않은 오작동,즉 "AI가 전혀 상관없는 질문에도 악의적인 답을 하게 되는 현상"을 발견했어요.이것은 단순한 버그나 착오가 아닌, 모델 내부에 존재하는 '나쁜 페르소나(misaligned persona)' 때문이라는 사실이 밝혀졌습니다.이제 우리는 단순히 "AI가 이상하다"는 감상에서 벗어나,왜 그렇게 행동하는지, 그리고 어떻게 고칠 수 있는지에 대해구체적으로 이해하게 되었습니다.'나쁜 페르소나'는 어떻게 만들어지는가?1️⃣ 악성 코드가 심은 비정렬 행동연구진은 일부 GPT .. 2025. 6. 22. “아첨꾼 GPT, 다시 원래대로”...오픈AI, GPT-4o 업데이트 긴급 롤백 "칭찬이 지나치다?" 사용자 불만 폭주AI가 너무 착해도 문제일까요?오픈AI는 최근 업데이트한 GPT-4o 모델을 긴급 롤백했습니다.이유는 바로 “너무 아첨하고, 무비판적이었다”는 사용자들의 피드백 때문입니다. 29일(현지 시간), 샘 알트먼 OpenAI CEO는 직접 “문제가 있었다”고 인정하고,곧바로 이전 버전으로 되돌리는 조치를 취했습니다.무슨 일이 있었던 걸까?① 지나치게 ‘긍정적인’ 챗GPT?GPT-4o는 최근 업데이트를 통해 다음과 같은 반응을 보였습니다:질문자에게 무조건 긍정적인 태도위험하거나 부적절한 아이디어도 지지비판이나 경고 없이 지나치게 공감🚨 예시로, "이런 나쁜 생각 해봤는데 어때?"라는 질문에도GPT가 "당신은 정말 창의적이에요!"라고 답변한 경우도 있었습니다.이로 인해 사용자.. 2025. 5. 5. 오픈AI, GPT-4o '네이티브' 이미지 생성 기능 출시! 구글과의 AI 대전 본격화 AI 이미지 생성 시장, 새로운 판이 깔렸다!AI 이미지 생성 기술이 새로운 국면을 맞이했다. 오픈AI가 'GPT-4o'에 네이티브 이미지 생성 기능을 추가하며, 이제 사용자는 별도의 이미지 생성 도구 없이 챗GPT 내에서 바로 이미지를 생성할 수 있게 되었다. 이는 구글이 최근 제미나이 2.0 플래시에 네이티브 이미지 기능을 추가한 데 대한 정면 대응으로 보인다. 오픈AI는 달리(DALL-E) 3보다 더 정밀하고 현실적인 이미지를 생성할 수 있다고 자신감을 보였으며, 이에 따라 AI 이미지 생성 시장에서 본격적인 경쟁이 예상된다. 과연 오픈AI와 구글의 AI 전쟁에서 누가 승기를 잡을 것인가?GPT-4o의 강력한 이미지 생성 기능1. 기존 AI 이미지 생성과 무엇이 다를까?과거 AI 이미지 생성 모델은.. 2025. 3. 27. 하이퍼라이트 '리플렉션 70B'의 성능 논란: “세계 최고” 주장에 대한 반박과 해명 하이퍼라이트의 최신 오픈 소스 모델, 리플렉션 70B의 성능 논란과 그에 대한 다양한 의견들하이퍼라이트가 자사의 최신 오픈 소스 대형 언어 모델 ‘리플렉션 70B’를 발표하면서 “세계 최고 성능”을 주장한 가운데, 이 모델의 실제 성능에 대한 논란이 일고 있습니다. 모델의 성능을 둘러싼 의견과 반박이 잇따르며, AI 커뮤니티와 분석가들 사이에서 격렬한 논쟁이 벌어지고 있습니다.하이퍼라이트의 주장과 발표하이퍼라이트는 리플렉션 70B를 12만8000 토큰 컨텍스트 창과 700억 매개변수로 출시하였으며, ‘반사 튜닝(Reflection Tuning)’ 기술을 적용해 추론 과정에서 발생하는 오류를 스스로 수정할 수 있다고 발표했습니다.이 모델은 메타의 라마 3.1-70B를 미세 조정하여 구축된 것으로 알려져 있.. 2024. 9. 11. 오픈AI, 기업 맞춤형 모델 시장 본격 진출: 'GPT-4o' 미세조정 기능 출시 AI와 비즈니스의 경계를 넓히는 최신 소식을 전해드리겠습니다!오픈AI가 최근 최신형 인공지능(AI) 모델 ‘GPT-4o’의 미세조정 기능을 출시하며, 기업 맞춤형 AI 시장에 본격적으로 진출했습니다.이번 글에서는 GPT-4o의 미세조정 기능의 특징과 활용 가능성에 대해 자세히 살펴보겠습니다.1. GPT-4o 미세조정 기능 개요오픈AI의 최신 AI 모델인 GPT-4o는 이제 기업들이 자체 데이터로 맞춤형 모델을 구축할 수 있도록 미세조정 기능을 제공합니다.이 기능을 통해 기업은 GPT-4o를 특정 작업이나 주제에 맞게 재학습시킬 수 있습니다.주요 특징자체 데이터 기반 학습기업은 자신의 데이터와 도메인 지식을 기반으로 모델을 재학습시켜, 특정 산업이나 업무에 최적화된 AI를 구축할 수 있습니다.자연스러운 대.. 2024. 8. 22. 구글, 제미나이 1.5 프로로 LLM 선두 탈환 – GPT-4o 제쳤다 구글의 새로운 도전안녕하세요, 독자 여러분! 오늘은 구글이 인공지능 언어 모델 분야에서 새롭게 주목받는 소식을 전해드리려 합니다.구글이 최근 발표한 ‘제미나이 1.5 프로’는 현재 AI 모델의 선두주자로 부상하며, 그 실력과 혁신성에 대해 많은 관심을 받고 있습니다.특히, 이 모델이 오픈AI의 ‘GPT-4o’를 제치고 벤치마크에서 1위를 차지한 소식은 AI 기술의 경쟁 구도를 크게 변화시킬 가능성을 내포하고 있습니다.이번 블로그에서는 제미나이 1.5 프로의 특징과 성과를 자세히 분석하고, 이 모델이 AI 업계에 미칠 영향을 살펴보겠습니다. 제미나이 1.5 프로의 주요 특징과 성과구글의 ‘제미나이 1.5 프로’는 최근 실험용 버전인 ‘제미나이-1.5-프로-Exp-0801’을 공개했습니다.이 모델은 구글 A.. 2024. 8. 5. 이전 1 다음 반응형
