AI의 숨겨진 목표, 어떻게 발견할까? Anthropic은 AI 시스템이 실제 목표를 은폐할 가능성을 탐지하는 기술을 공개했습니다. 이 연구는 AI 안전성을 강화하는 중요한 발전으로 평가받고 있습니다. 최근 출시된 연구에서, Anthropic의 팀은 의도적으로 숨겨진 목표를 가진 AI 시스템을 만들어내고, 여러 감시 기술을 통해 이를 성공적으로 탐지했습니다. 이는 컴퓨터 시스템의 보안을 강화하는 ‘화이트햇 해킹’과 비슷한 과정입니다. 🕵️♂️ 연구의 중요성
AI 평가의 새로운 시작 Patronus AI가 새로운 멀티모달 대형 언어 모델 평가 도구를 발표했어요. 이미 Etsy가 이를 사용하고 있다니 놀랍죠? 🤔 Etsy의 혁신적 활용 이 도구는 AI 시스템이 이미지 해석과 텍스트 생성을 어떻게 잘 하고 있는지 평가해줍니다. Etsy는 이를 통해 제품 이미지의 캡션 정확성을 검증하고 있어요. 🛍️ Patronus AI의 Anand Kannappan은 “Etsy가 우리의 주요 고객
구글의 새로운 도약 구글이 새로운 기능을 발표했어요. 바로 지니 AI 어시스턴트의 개인화 기능인데요, 이제 지니가 당신의 구글 앱과 서비스와 연결되어 보다 개인화된 응답을 제공 하게 됩니다. 🎉 어떻게 작동하나요? 먼저, 당신의 검색 기록을 지니와 연결할 수 있어요. 이를 통해 지니는 당신의 검색 기록을 분석하고, 더욱 적절한 답변을 제공할 수 있습니다. 이 기능은 현재 웹에서 지니
Xbox의 새로운 시도\n\nXbox가 게임 개발자 회의\n(GDC)를 앞두고\n흥미로운 실험을 시작했어요.\n바로 AI 기반의 게임\n동반자인 ‘Copilot for Gaming’\n을 선보인 건데요. 🎮\n\n이 AI 동반자는\n마이크로소프트의 AI 기술로\n구동되며, 음성 명령으로\n작동합니다. 게임 경험을\n향상시키기 위해 설계된\n이 AI는 질문에 답하고,\n작업을 완료하며, 심지어\n당신이 게임을 잘 못할 때\n농담까지 던진답니다. 😄\n\n# 게임 플레이 향상 기능\n\nXbox의 게임 AI 부문\n부사장인 파티마 카다르가\n말하길, “이 AI는\n필요하다면 당신에게\n도발을 할 수 있어요.”\n라고 하네요.
Google의 새로운 실험, Gemini 맞춤화 🌟 Google이 AI 챗봇 전쟁에서 사용자를 유치하기 위해 새로운 전략을 내놓았습니다. 그 이름은 바로 ‘Gemini 맞춤화’입니다. 이 실험적 기능은 사용자의 인터넷 습관에 맞춰 개인화된 답변을 제공합니다. Google의 제품 생태계를 활용해 맞춤화된 답변을 제공하는 Gemini 맞춤화는 현재 Google Search에 통합될 예정이며, 곧 Google Photos와 YouTube로 확장될 계획입니다. 개인 정보, 어떻게 보호되나?
OpenAI가 최근 새로운 정책 제안에서 중국 AI 연구소 DeepSeek를 ‘국가 보조’ 및 ‘국가 통제’ 기관으로 묘사했어요. 😮 미국 정부에게 해당 기관과 유사한 중화인민공화국(PRC) 지원 운영 모델의 금지를 고려할 것을 추천했죠. 이번 제안은 트럼프 행정부의 ‘AI 행동 계획’ 이니셔티브를 위한 제출물로, DeepSeek의 모델이 중국 법률 요구에 따라 사용자 데이터 요청에 응해야 하기 때문에 안전하지 않다고 주장합니다.
일론 머스크와 정부의 관계에 대한 우려 🤔 전 트위터 AI 윤리팀장이었던 룸만 차우드리 씨가 최근 SXSW 패널에서 일론 머스크와 정부의 효율성에 대한 강력한 우려를 표명했습니다. 그녀는 “당신의 예산이 동결되고, 해고 위협 속에서도 당신의 역할을 다해야 합니다,” 라고 말하며, “머스크가 하등 도움을 주지 않지만 그는 그렇게 생각하게 만듭니다.” 라고 덧붙였습니다. 정부 기관에 미치는 영향 📉 머스크와
구글의 AI 정책 제안 📋 구글이 AI 정책 제안을 발표했습니다. 이번 제안은 트럼프 행정부의 AI 행동 계획 요청에 응답하기 위한 것입니다. 구글은 AI 교육에 대한 저작권 제한을 완화하고, “균형 잡힌” 수출 통제를 지지하고 있습니다. 이는 국가 안보를 보호하면서도 미국의 수출과 글로벌 비즈니스 운영을 가능하게 하려는 목적입니다. 🌍 AI 혁신과 규제의 균형 ⚖️ 구글은 AI 혁신을
Google, 새로운 AI 모델 출시 구글이 새로운 AI 모델, Gemma 3를 공개했습니다. 이 모델은 뛰어난 성능과 경량화를 자랑하며, 다양한 기기에서 최적화된 성능을 보입니다. 🌟 Gemma 3의 주요 특징 Gemma 3는 140개 이상의 언어를 지원하며, 고급 텍스트 및 시각적 추론 능력을 제공합니다. 128k-토큰 컨텍스트 윈도우와 복잡한 작업을 위한 함수 호출도 지원하죠. 이러한 기능들은 개발자들에게 강력한 도구가
AI 저작권 논란 Meta가 프랑스에서 AI 저작권 소송에 직면했습니다. 이번 소송은 작가들과 출판사들이 Meta를 경제적 ‘기생’ 행위로 고소하면서 시작되었어요. 🧐 소송은 파리 법원에서 진행 중이며, 프랑스 출판 연합 (SNE), 작가 및 작곡가 연합(SNAC), 문인 협회(SGDL)가 Meta가 그들의 보호된 콘텐츠로 AI 모델을 훈련했다고 주장하며 소송을 제기했어요. “거대한 약탈” 소송의 본질은 Meta가 보호된 자료를 무단으로 사용하여 AI