OpenAI анонсировала новый инструмент для определения изображений, созданных с помощью ИИ-генераторов, таких как DALL-E. При этом такой классификатор работает, даже если изображение обрезано, сжато или аугментировано иным образом. Стоит отметить, что хотя инструмент может с высокой точностью, достигающей 98 процентов, определить, было ли изображение создано с помощью DALL-E, его способности далеко не так хороши в случаях, когда изображение создано другой моделью. Например, в случае с Midjourney классификатор способен распознать только 5–10 процентов сгенерированный изображений.

Кроме классификатора, OpenAI также предложила новые техники нанесения водяных знаков для более четкой маркировки генерируемого контента. Компания также начала добавлять водяные знаки в клипы из Voice Engine, своей платформы преобразования текста в речь.

OpenAI уже много лет работает над способами обнаружения контента, созданного ИИ. Однако в 2023 году компании пришлось закрыть программу, которая пыталась идентифицировать текст, написанный ИИ, поскольку классификатор имел слишком низкую точность.