구글이 '제미나이' 모델의 성능 향상에 어려움을 겪고 있다는 소식이 전해졌다. 대규모 컴퓨팅 파워와 학습 데이터를 투입했음에도 불구하고, 성능이 기대에 미치지 못하자 구글은 새로운 접근 방식을 모색하고 있다. 이는 오픈AI와 유사한 상황으로, 두 회사 모두 사전 훈련의 한계를 인식하고 강화 학습과 추론 강화 같은 새로운 기술에 집중하고 있다. 특히, 구글은 '스케일링 법칙'의 한계에 직면하며, 더 많은 데이터와 자원을 투입해도 성능 개선이 미미하다는 점을 확인했다.

구글 딥마인드는 제미나이 모델의 성능을 높이기 위해 새로운 팀을 구성하고, '테스트•타임 컴퓨트' 기술과 유사한 기능을 개발 중이다. 이 과정에서 하이퍼매개변수 조정을 통해 최적의 학습 모델을 구현하려는 노력을 기울이고 있다. 또한, AI가 생성한 합성 데이터를 학습 데이터에 추가했으나, 성능 개선에는 큰 효과가 없었다는 평가다. 오픈AI와 다른 개발자들 역시 합성 데이터 활용의 한계를 인식하고 있으며, 이는 AI 모델 성능 개선에 있어 새로운 도전 과제가 되고 있다.