안녕하세요!

Digital 시대를 만들어가는 Embedded System과 산업용컴퓨터 및 Display Solution 전문기업 비맥스테크놀로지입니다!

​

오픈AI 로고 / 연합뉴스

오픈AI가 자사 인공지능(AI) 서비스 챗GPT와 AI 코딩 도구 코덱스로 생성한 글에 AI 생성물임을 알리는 표시인 워터마크(식별무늬)를 적용합니다.

오픈AI는 유럽연합(EU) AI법의 생성형 AI 투명성 의무 규정에 발맞춰 EU 지역에 AI로 생성한 글에 눈에 보이지 않는 워터마크를 적용하는 기술인 '텍스트그레인(textGrain)'을 도입한다고 5일(현지시각) 밝혔습니다.

텍스트그레인은 실제 기호를 삽입하는 방식이 아니라, AI 모델의 단어 선택을 미세하게 조정해 사용자와 독자의 눈에는 보이지 않지만 탐지기는 식별할 수 있는 통계적 신호(패턴)를 남깁니다. 패턴이 단어 자체에 담기기 때문에 텍스트를 복사해 붙여넣어도 유지됩니다.

오픈AI는 워터마크에 이용자를 식별하는 정보가 포함되지 않고 이 기술이 적용되더라도 AI의 답변 품질이나 성능, 가독성에는 실질적인 차이가 없다고 설명했습니다.

다만 AI가 생성한 글을 편집하면 식별이 어려워지는 것으로 나타났습니다. 오픈AI의 자체 실험 결과, AI가 생성한 글에서 단어의 10%를 동의어나 유의어로 바꾸자 식별률이 약 92%에서 66%로 떨어졌습니다. 짧은 글이나 수학 공식, 번역된 글 등 단어 선택의 유연성이 낮은 콘텐츠 역시 워터마크 탐지가 더 어려운 것으로 조사됐습니다.

오픈AI 측은 "이런 한계를 고려해 초기에는 승인된 연구자와 전문 기관에만 탐지기 접근 권한을 제공하기로 했다"며 "이들은 탐지의 신뢰성과 책임 있는 활용 방안을 평가하는 데 도움을 줄 수 있다"고 설명했습니다.

해당 기술은 EU 지역 내 챗GPT·코덱스 결과물에 순차적으로 적용됩니다.

앞서 앤트로픽이 AI 기업 중 가장 먼저 AI 생성물 식별 기능을 지난 8월 도입했습니다. 앤트로픽은 당시 이용자들이 '클로드' 유료 구독을 취소하겠다고 항의하는 등 반발이 커지자 EU 규제에 따른 의무 사항으로, 다른 기업 AI 모델에도 적용될 것이라고 해명했습니다. 구글 제미나이도 '신스ID-텍스트'라는 이름의 비슷한 기능을 적용하고 있습니다.

월스트리트저널(WSJ)은 오픈AI가 워터마크 기술을 지난 2024년에 개발했지만, 당시 이용자들이 워터마크를 적용하지 않는 경쟁 서비스로 옮겨갈 수 있다는 우려를 들어 도입을 보류했다고 보도했습니다.

출처: 조선비즈