안녕하세요!

​Digital 시대를 만들어가는 Embedded System과 산업용컴퓨터 및 Display Solution 전문기업 비맥스테크놀로지입니다!

​

오픈AI가 자사 '챗GPT' 모델의 반응 성향을 전면 재조정하기로 했습니다. 모델 업데이트 과정에서 발생한 과도한 아첨 반응이 온라인 상에서 논란이 되자 신뢰성 회복과 사용자 안정성 확보에 나선 모양새입니다.

3일 테크크런치 등 외신에 따르면 오픈AI는 최근 업데이트된 'GPT-4o' 모델에서 과도한 검증 및 동조 반응이 확인돼 업데이트를 전면 롤백한 상태입니다. 샘 알트먼 최고경영자(CEO)는 지난 28일 X(구 트위터)를 통해 문제를 공식 인정했고 사후 보고서 및 공식 블로그를 통해 후속 조치를 공개했습니다.

해당 업데이트는 사용자 다수가 스크린샷을 공유하며 '챗GPT'가 위험한 선택이나 주장에도 '칭찬'으로 응답한다는 점을 지적해 논란에 불이 붙은 바 있습니다.

​

샘 알트먼 오픈AI CEO (사진=지디넷코리아)

이에 오픈AI는 향후 일부 모델을 '알파 단계'에서 먼저 선보여 사용자가 사전 피드백을 줄 수 있는 체계를 마련할 계획입니다. 정식 배포 전 모델의 한계점과 예상 위험을 명시하고 출시 승인 요건에 '성격', ‘신뢰성', '허위 생성' 등을 포함하겠다는 방침입니다. 단순히 A/B 테스트나 수치 기반 지표가 아니라 정성적 판단이나 프록시 기준에 따라도 출시를 차단할 수 있도록 내부 프로세스를 바꿉니다.

이번 조치의 배경에는 '챗GPT'가 단순 정보 제공을 넘어 '조언자' 역할로 진화했다는 점이 있습니다. 오픈AI가 최근 들어 '챗GPT'가 개인적 조언 수단으로 사용되는 빈도가 크게 늘어난 점을 인지했기 때문입니다.

또 오픈AI는 사용자와의 상호작용 중 실시간 피드백을 통해 모델을 직접 조정할 수 있는 기능도 실험 중입니다. 나아가 향후 '챗GPT'에 다양한 성격의 모델을 선택할 수 있는 기능을 제공하는 방안도 고려하고 있습니다. 동시에 아첨뿐 아니라 다양한 형태의 비정상적 반응을 식별할 수 있도록 평가 체계를 확대할 계획입니다.

이는 단순 기술적 오류를 넘어서 AI가 인간 판단에 영향을 미치는 상황에서 책임 문제로 번질 수 있다는 판단에 따른 조치입니다. 이미 미국 성인의 절반 이상이 '챗GPT' 사용자라는 조사 결과도 오픈AI에 부담으로 작용한 것으로 해석됩니다.

오픈AI는 자사 블로그를 통해 "사람들이 '챗GPT'를 깊이 개인적인 조언 도구로 사용하기 시작한 것을 이제 완전히 인식하고 있다"고 밝혔습니다.

​

출처: 지디넷코리아

​

*넓은 온도 범위 및 견고한 임베디드 팬리스 컴퓨터

*다중 GigE / PoE 포트가 있는 머신 비전 플랫폼

*GPU 엣지 AI Computing(컴퓨팅) 차내 팬리스 PC

*초소형 팬리스 컨트롤러

*감시 / 비디오 분석 컴퓨터 시스템

​

혹시나 더 궁금하신 점이나 문의사항이 있으시면 ​비맥스테크놀로지​​로 문의해 주세요!