오늘의 AI 뉴스

AI 이미지 생성 모델, 기술적 오류 넘어 ‘세련미’ 지향

이제 AI가 그린 그림에서 손가락이 뭉개지지 않아요

• Meta Muse, Gemini Nano Banana 2, ChatGPT Images 2.0이 구조적 일관성과 텍스트 표현력을 개선했다.
• 최신 AI 이미지 모델은 거친 사실성보다 정돈되고 고급스러운 미적 스타일을 우선시하는 경향을 보인다.
• 모든 모델이 여전히 실제와 같은 질감 구현에는 어려움을 겪으며, 과도하게 매끄러운 표면과 따뜻한 색감을 공통적으로 나타낸다.

• 메타, 구글, 오픈AI의 최신 AI 모델들은 이전보다 훨씬 더 정확하고 깔끔한 이미지를 그려냅니다.
• 이제는 어설픈 그림이 아니라, 광고 사진처럼 예쁘고 세련된 느낌을 주는 것이 AI 그림의 대세가 되었습니다.
• 다만 그림이 너무 매끈하고 비슷비슷해서, 실제 사진 같은 생생함은 아직 조금 부족한 상황입니다.

AI 안전 필터, 소수 언어 사용 시 우회 가능

외국어를 쓰면 AI가 말을 안 듣는다? AI 보안의 허점

• AI 모델은 사용자가 흔하지 않은 언어로 프롬프트를 입력할 때 안전 가이드라인이 저하되는 현상을 보인다.
• 해커들은 영어 중심의 학습 데이터를 악용하여, 비주류 언어를 쓰거나 언어 전환을 통해 AI 안전망을 우회한다.
• 연구진은 10개 언어에 걸쳐 61개 모델 구성을 평가해 다국어 안전 격차의 체계적 원인을 파악했다.

• AI는 영어로 질문할 때보다 낯선 외국어로 질문할 때 안전 장치가 훨씬 약해집니다.
• 나쁜 마음을 먹은 사람들이 이 점을 이용해 AI의 안전망을 피해 나쁜 대답을 유도하고 있습니다.
• 연구 결과, 10개 언어에서 AI의 보안 문제가 확인되었으며 이를 해결하기 위한 연구가 진행 중입니다.

타타 컨설턴시 서비스, AI 인력 8,900명 확충 및 기업 인수 추진

인도의 대형 IT 기업 TCS가 AI 전문가 9천 명을 키우고 회사를 사들이는 이유

• 타타 컨설턴시 서비스(TCS)가 AI 시스템 통합을 전담할 현장 배치 엔지니어(FDE) 8,900명을 육성한다.
• 뭄바이에 본사를 둔 이 기업은 AI, 데이터 보안 및 사이버 보안 분야에서 전략적 인수를 적극 모색하고 있다.
• K 크리티바산 CEO는 1분기 13%의 AI 매출 성장률에도 불구하고 장기적으로 분기별 25% 성장을 목표로 한다.

• 인도의 대형 IT 기업 TCS가 고객사에 꼭 맞는 AI 시스템을 만들어줄 전문가 8,900명을 채용합니다.
• 기술력을 빠르게 높이기 위해 AI와 보안 관련 유망 기업들을 적극적으로 사들이기로 했습니다.
• 단기적으로는 성장이 주춤했지만, 앞으로는 AI 서비스 매출을 분기마다 25%씩 늘리겠다는 큰 목표를 세웠습니다.

OpenAI, ChatGPT iOS 서비스 장애 확인

아이폰에서 챗GPT가 갑자기 안 돼요, 무슨 일일까요?

• OpenAI는 일요일 iOS 사용자를 대상으로 ChatGPT 서비스에 403 오류가 발생했음을 확인했다.
• Downdetector에 따르면 뉴욕, 시카고 등 미국 주요 도시에서 300건 이상의 신고가 접수됐다.
• 현재 일반 기능, 모바일 앱 접속 및 계정 로그인 등 전반적인 서비스 이용에 차질이 빚어지고 있다.

• 일요일, 아이폰용 챗GPT 앱에서 접속 오류가 발생했습니다.
• 미국 전역에서 300건 이상의 신고가 접수되며 서비스가 원활하지 않았습니다.
• 현재 서비스 제공업체인 오픈AI가 원인을 찾아 해결하는 중입니다.

AI 모델의 규칙 인용 정확도 높이는 결정론적 게이트 개발

AI가 거짓말을 줄이도록 만드는 똑똑한 문지기 시스템

• AI 에이전트의 메모리 및 규칙 인용 정확도를 향상하기 위해 결정론적 '관계 범위(relation-span)' 게이트가 도입됐다.
• 새로운 게이트는 llama3.2의 허위 경보를 5건에서 1건으로 줄였으며, Sonnet 모델에서도 9/9의 텍스트 지시 포착률을 유지했다.
• 실험 결과, 문법적으로 정확하지만 실제 규칙 변경을 반영하지 못하는 '근접성 함정(proximity trap)' 문제 등 한계점도 확인됐다.

• AI가 복잡한 규칙을 잘못 이해해서 엉뚱한 대답을 내놓는 문제를 해결하는 새로운 필터 장치를 개발했습니다.
• 이 시스템을 도입했더니 AI의 실수(오답)가 크게 줄어들었고, 정보의 정확성을 확인하는 시험에서 높은 성적을 거두었습니다.
• 아직 문장이 매끄러우면 논리가 틀려도 속아 넘어가는 한계는 있지만, 앞으로 이 부분을 집중적으로 보완할 계획입니다.

NVIDIA Jetson Nano 기반 로컬 LLM 성능 벤치마크

손바닥만 한 초소형 컴퓨터에서도 똑똑한 AI를 돌릴 수 있을까요?

• 개발자 안나 비야레알(Anna Villarreal)이 NVIDIA Jetson Nano에서 로컬 퀴즈 생성을 위한 여러 LLM 성능을 측정했다.
• qwen2.5:3b-instruct는 다양한 양자화 수준에서 100% 정확도를 기록하며 Llama와 Mistral 모델을 앞섰다.
• RAM 및 GPU 용량 부족으로 인해 일부 모델은 출력을 생성하지 못하는 등 하드웨어 제약이 확인됐다.

• 작고 성능이 낮은 컴퓨터에서 공부용 퀴즈를 자동으로 만드는 AI를 시험해 보았습니다.
• 큐웬(Qwen2.5)이라는 AI 모델이 다른 유명한 모델들보다 훨씬 정확하게 문제를 풀었습니다.
• 컴퓨터 사양이 낮을 때는 AI를 작고 가볍게 줄여서 사용하는 지혜가 필요하다는 사실을 확인했습니다.

Ploy, AI 에이전트 모델을 GPT-5.6으로 전환

마케팅 사이트를 만드는 AI가 더 똑똑하고 빨라졌습니다

• Ploy가 생산용 AI 에이전트를 GPT-5.6 Sol로 전환해 속도는 2.2배 빨라졌고 비용은 27% 절감됐다.
• 엔지니어들은 모델의 불필요한 도구 매개변수 생성 문제를 해결하기 위해 스키마 변환을 적용했다.
• 프롬프트 캐싱 시스템 재설계를 통해 첫 호출 적중률을 0%에서 83.7%로 대폭 높였다.

• 마케팅 웹사이트 제작 AI가 최신 모델인 GPT-5.6으로 업그레이드되었습니다.
• 일하는 속도는 2배 이상 빨라졌고, 운영 비용은 약 30퍼센트 가까이 줄었습니다.
• 데이터 저장 방식을 효율적으로 바꿔서, AI가 이전에 학습한 정보를 훨씬 더 잘 기억하게 되었습니다.

LLM 추론 과정의 비밀, 인과관계 이론으로 밝힌다

AI가 정말로 생각을 하는지 뜯어보니 놀라운 사실이 밝혀졌어요

• 연구진이 거대언어모델(LLM)의 내부 로직을 고수준 알고리즘 추상화로 매핑하는 인과관계 이론을 적용하고 있다.
• 2021년 연구 결과, BERT 모델이 양화사와 부정문을 활용해 내부적으로 논리적 추론을 수행한다는 사실이 입증됐다.
• Goodfire AI는 Llama 모델이 복잡한 순환 문제를 해결하기 위해 스스로 범용적인 십진법 계산 전략을 개발함을 확인했다.

• AI가 내부에서 어떤 과정을 거쳐 답을 내는지 인과관계 이론으로 분석하는 연구가 진행 중입니다.
• 과거 모델인 버트(BERT)가 이미 논리적 사고를 스스로 하고 있었다는 사실이 확인되었습니다.
• 최신 모델인 라마(Llama)는 복잡한 수학 문제를 풀 때 자신만의 효율적인 계산법을 스스로 만들어냅니다.

조지 호츠, AI 거품론과 프런티어 랩 기업가치 비판

AI 전문가가 말하는 AI 거품과 진짜 능력

• 조지 호츠는 LLM을 활용한 소프트웨어 개발과 리눅스 환경 설정 과정에서 생산성이 10배 향상되었다고 보고했다.
• 그는 AI가 세상을 바꿀 실존적 위협이라는 주장을 일축하며, AI 발전의 핵심 동력은 무어의 법칙이라고 주장했다.
• 그는 프런티어 AI 연구소들의 오픈소스 반대 입장을 기술의 범용화를 막으려는 공포 마케팅으로 규정하며 비판했다.

• AI를 쓰면 프로그래밍 작업 속도가 10배나 빨라집니다.
• AI가 세상을 멸망시킬 거라는 공포는 사실과 다른 과장된 이야기일 뿐입니다.
• 일부 대형 AI 기업들이 자신의 기술이 특별해 보이도록 만들어 투자금을 모으고 있습니다.

Anthropic와 OpenAI, 모델 이용 정책 개편

인공지능 서비스가 더 똑똑하고 자유롭게 바뀝니다

• Anthropic이 모든 유료 구독자를 대상으로 Claude Fable 5 모델 접근 권한을 2026년 7월 19일까지 연장했다.
• OpenAI가 GPT-5.6 Sol 모델의 이용 효율을 개선하며 Plus, Business, Pro 플랜의 5시간 사용 제한을 폐지했다.
• OpenAI는 현재 600만 명의 활성 사용자를 확보했으며, GPT-5.6 Sol 최적화를 통해 서비스 효율을 높였다고 밝혔다.

• 앤스로픽은 유료 회원들이 고급 모델을 더 오랫동안 쓸 수 있게 기간을 대폭 늘렸습니다.
• 오픈AI는 유료 회원의 시간당 이용 제한을 없애 더 편하게 서비스를 쓰게 되었습니다.
• 두 회사는 사용자가 몰려도 인공지능이 멈추지 않도록 기술을 효율적으로 개선하고 있습니다.