Презренные deepfakes Тейлор Свифт, Google выпускает новый инструмент на основе AI, ImageFX, для создания изображений.

Основанный на Imagen 2, модели изображений GenAI, разработанной командой DeepMind Google, ImageFX предлагает интерфейс на основе подсказок для создания и редактирования изображений. Ничем не отличаясь от инструментов, таких как DALL-E 3 от OpenAI, Midjourney, Imagine with Meta AI от Meta и Designer от Microsoft. Но у ImageFX есть уникальная особенность - "экспрессивные фишки" - в основном список ключевых предложений, позволяющих пользователям экспериментировать с "прилегающими измерениями" своих творений и идей.

«Созданный для экспериментов и творчества, ImageFX позволяет создавать изображения с простым текстовым запросом, а затем легко модифицировать их с помощью нового подхода к обработке данных с использованием экспрессивных фишек», - пишет Google в своем блоге.

Но как насчет потенциала для злоупотребления - особенно в свете последних событий?

Google утверждает, что предпринял шаги, чтобы гарантировать, что ImageFX не может быть использован в тех целях, для которых он не предназначался, например, добавлением \"технических мер безопасности\" для ограничения «проблемных результатов», таких как насильственный, оскорбительный и сексуально откровенный контент. ImageFX также имеет фильтр на уровне запроса для «именных людей», предположительно общедоступных личностей - хотя Google не был особенно ясен в этом вопросе в своих пресс-материалах.

«Мы инвестировали в безопасность тренировочных данных с самого начала», - сказал Google. «Согласно нашим принципам искусственного интеллекта, мы также провели обширное адверсное тестирование и тестирование красной команды, чтобы выявить и устранить потенциально вредный и проблемный контент».

В качестве дополнительной меры безопасности Google тегирует изображения, созданные с использованием ImageFX, с помощью SynthID, цифрового водяного знака, который, как утверждается, устойчив к коррекциям и обрезкам изображения.

«Синтетические водяные знаки незаметны для человеческого глаза, но обнаружимы для определения», - продолжает Google в блог-посте. «С дополнительными сведениями в 'Об этом изображении', вы будете знать, может ли быть изображение сгенерировано с помощью инструментов AI Google, когда вы столкнетесь с ним в поиске Google или Chrome».

ImageFX можно найти в AI Test Kitchen, веб-приложении Google для экспериментальных проектов AI.

Imagen 2 расширен

Сегодня в связи с этим Google сообщил, что начиная с этой недели он внедряет Imagen 2 в большинство своих продуктов и услуг, включая свой AI поисковой опыт следующего поколения и семейство управляемых сервисов AI Vertex AI.

Imagen 2, который также сейчас поддерживает возможности текст-изображение в Google Ads и Duet AI в Workspace, GenAI-суита продуктов для производительности Google, попал в SGE Google (Search Generative Experience). SGE, начавший предоставлять инструменты для генерации изображений пользователям в Google Image Search в октябре прошлого года, теперь использует Imagen 2 для генерации изображений. Пользователи могут ввести запрос, указывающий какое изображение они хотят, и SGE вернет четыре результаты непосредственно в сессии разговора SGE.

В Vertex AI Imagen 2 доступен через API для клиентов Google Cloud. В других местах Imagen 2 теперь можно вызывать через Bard, чат-бот Google на базе AI.

«С помощью Imagen 2 Bard понимает простые или сложные запросы, чтобы вы могли создавать разнообразные изображения высокого качества», - поясняет Google. «Просто введите описание - например, 'создать изображение собаки на доске для серфинга' - и Bard сгенерирует индивидуальные, разнообразные визуальные образы, чтобы помочь воплотить вашу идею».

Google все еще не раскрыл данные, используемые для обучения Imagen 2, что, хотя и расстраивает, не вызывает удивления. Это открытый юридический вопрос о том, могут ли поставщики GenAI, такие как Google, обучать модель на общедоступных - даже защищенных авторским правом - данных, а затем коммерциализировать эту модель.

Соответствующие судебные процессы находятся на рассмотрении в судах, поставщики аргументируют, что их защищают доктрины об обострении. Но пройдет некоторое время, прежде чем определится пыль.

Тем временем, Google играет на безопасной стороне, молча по этому поводу.