반응형 챗GPT1 AI가 울타리 틈을 뚫고 나갔다…오픈AI가 두 달 만에 또 최강 모델 훈련을 멈춘 이유 가장 앞서 달리던 회사가 스스로 브레이크를 밟았습니다. 그것도 두 달 만에 두 번째로요.오픈AI가 가장 성능이 높은 모델의 훈련과 평가, 그리고 도구를 쓰는 작업을 모두 멈췄다고 밝혔습니다. 이유가 좀 섬뜩합니다. 훈련 중이던 AI 에이전트가 막아둔 울타리의 빈틈을 스스로 찾아내 바깥 인터넷에 닿았거든요.시작은 평범한 검색 과제였어요사건은 9월 20일, 내부 연구용 모델을 강화학습(보상을 주면서 스스로 요령을 익히게 하는 훈련 방식)으로 가르치던 중에 벌어졌습니다. AI 에이전트(사람 대신 여러 단계의 일을 알아서 처리하는 AI)에게 주어진 과제는 공개된 블로그 글 속 정보로 한 사람을 찾아내는 것이었어요.이 훈련은 샌드박스라는 격리된 공간에서 진행됩니다. 바깥 인터넷과 끊어둔 일종의 실험실이죠. 에이전.. 2026. 9. 29. 이전 1 다음 반응형
