본문 바로가기
728x90
반응형

Development News355

AI를 무력화하는 신종 공격, ‘매쓰프롬프트(MathPrompt)’의 충격적인 진실! 당신의 AI는 안전한가? AI의 발전은 우리 삶의 편리함을 가져왔지만, 그만큼 보안 위협도 커지고 있습니다.최근 '매쓰프롬프트(MathPrompt)'라는 새로운 공격 기법이 등장하면서 생성형 AI의 보안이 무너질 수 있다는 충격적인 연구 결과가 발표되었습니다.단순한 자연어가 아닌, 수학 방정식을 통해 AI의 보안 장치를 무력화할 수 있다는 이 공격 방식은 많은 보안 전문가들에게 경고를 던지고 있습니다.과연 우리의 AI는 안전한가요? 매쓰프롬프트란 무엇이며, 그 심각성은 얼마나 될까요?1. 매쓰프롬프트란 무엇인가?최근 텍사스 대학교 샌안토니오, 멕시코 몬테레이 공과대학교, 플로리다 국제 대학교의 연구진이 발표한 연구에 따르면, 생성형 AI의 보안 장치가 자연어 대신 수학 방정식을 입력함으로써 무력화될 수 있다는 사실이 밝혀졌습니다.. 2024. 9. 27.
ARM, ‘Llama 3.2’ 통해 AI 추론 가속화 및 확장 ARM의 머신러닝 기술 부사장 이안 브랫(Ian Bratt)님이 발표한 내용을 통해 ARM이 메타와 협력하여 새로운 Llama 3.2 대형 언어 모델(LLM)을 지원하는 방안을 소개하겠습니다. 이 모델은 AI 추론을 더욱 가속화하고, 클라우드와 엣지 모두에서의 AI 경험을 향상시키는 데 큰 기여를 하고 있습니다.1. Llama 3.2 모델의 중요성AI 기술은 지속적으로 발전하고 있으며, 새로운 LLM들이 자주 등장하고 있습니다.그러나 이러한 LLM들은 상당한 컴퓨팅과 에너지 소모를 요구합니다. ARM은 메타와 협력하여 최신 Llama 3.2 LLM을 ARM CPU에서 실행할 수 있도록 지원하여 이 문제를 해결하고 있습니다.Llama 3.2의 특징:소규모 LLM 지원: Llama 3.2의 1B 및 3B 모.. 2024. 9. 27.
메타, AR 안경 ‘오라이온’ 공개: 휴대폰을 대체할 혁신적인 기술 여러분, 메타가 새로운 증강현실(AR) 안경 ‘오라이온(Orion)’을 공개했습니다!이 제품은 마크 저커버그 CEO가 직접 선보이며, 휴대폰을 대체할 혁신적인 핸즈프리 기기를 목표로 하고 있습니다.이번 블로그 포스트에서는 오라이온의 특징, 기능, 기술적 분석에 대해 쉽게 설명해드리겠습니다. AR 안경의 미래가 궁금하신 분들은 끝까지 읽어보세요!1. 오라이온의 디자인 및 기본 기능오라이온은 두꺼운 검은색 뿔테 안경처럼 보입니다. 기존의 무거운 혼합현실(MR) 헤드셋을 대체할 수 있는 형태로, 70도의 시야각을 제공합니다. 이는 기존 스마트 안경 중 가장 넓은 시야각입니다.이 제품은 일반 안경처럼 일상적으로 착용할 수 있을 만큼 가볍고 편안하게 디자인되었습니다.기본 기능가상 세계 접속: 안경 내부 스크린을 .. 2024. 9. 27.
클라우드플레어, AI 오딧 툴 출시! 콘텐츠 제작자가 AI 봇의 통제권을 되찾다! 클라우드플레어(Cloudflare)는 콘텐츠 제작자가 자신의 콘텐츠를 AI 모델로부터 제어할 수 있는 새로운 'AI 오딧(AI Audit)' 툴을 발표했습니다.이 도구는 모든 규모의 웹사이트가 AI 모델이 자신의 콘텐츠를 어떻게 사용하는지를 분석하고, 이를 통제할 수 있도록 돕는 혁신적인 기능을 제공합니다.콘텐츠 제작자의 권리 회복AI 기술의 발전으로 웹사이트 및 콘텐츠 제작자들은 AI 모델이 자사 콘텐츠를 어떻게 사용하고 있는지 명확히 이해할 필요가 커지고 있습니다.클라우드플레어의 AI 오딧은 이를 가능하게 합니다. 이제 콘텐츠 제작자는 AI 모델이 자신의 콘텐츠에 접근하는 방식을 쉽게 파악하고, 접근 여부를 직접 제어할 수 있게 되었습니다.특히, AI 모델이 웹사이트에 얼마나 자주 접근하는지를 분석할.. 2024. 9. 26.
마이크로소프트, AI 환각 문제를 해결하는 '수정' 기능 발표! AI 기술이 발전함에 따라, 우리 생활 속에서 AI가 생성한 콘텐츠의 신뢰성은 점점 더 중요해지고 있습니다.마이크로소프트(MS)는 최근 자사의 AI 모델에서 발생할 수 있는 '환각' 현상을 식별하고 수정하는 새로운 기능을 출시했습니다.이 기술은 AI 생성 텍스트의 사실성을 높여, 사용자들에게 더 신뢰할 수 있는 정보를 제공하는 데 큰 역할을 할 것으로 기대됩니다.AI 환각 현상, 왜 문제인가?AI 모델이 생성하는 텍스트는 때때로 사실이 아닌 정보를 포함할 수 있습니다.이를 우리는 '환각'이라고 부릅니다. 예를 들어, AI가 제공하는 데이터나 정보가 실제로 존재하지 않거나 잘못된 경우, 사용자는 잘못된 정보를 바탕으로 결정을 내릴 위험이 있습니다.이런 환각 문제는 특히 의료, 법률, 교육 등 중요한 분야에.. 2024. 9. 26.
ChatGPT의 고급 음성 기능: 어드밴스드 보이스 모드(AVM) 쉽게 알아보기 오늘은 오픈AI에서 발표한 ChatGPT의 고급 음성 기능(AVM)에 대해 쉽게 설명해드릴게요.이 기능은 한국어와 일본어를 포함해 총 50개 언어로 지원됩니다. ChatGPT의 새로운 업데이트가 어떤 점에서 유용한지 알아보겠습니다.1. 어드밴스드 보이스 모드(AVM)란?AVM은 ChatGPT의 음성 기능을 더욱 향상시켜주는 모드입니다. 이번 업데이트로 ChatGPT 플러스와 팀즈 사용자는 음성 아이콘 옆에 새로운 팝업이 보일 것입니다.이 팝업을 클릭하면 음성 기능을 사용하여 더 편리하게 대화할 수 있습니다.2. 업데이트된 기능오픈AI는 AVM을 통해 다음과 같은 기능을 제공합니다:다양한 음성 선택: AVM에는 총 9개의 음성이 추가되었습니다. 새롭게 추가된 음성으로는 아르보, 메이플, 솔, 스프루스, 베.. 2024. 9. 26.
728x90
반응형

티스토리툴바