Google убирает инструмент AI для изображений Google Earth через день после запуска

Этот неожиданный шаг, задокументированный The Verge и TechCrunch, произошел после того, как компания тихо представила эту функцию в разделе Labs Google Earth. Их предложение было смелым: позволить любому создавать поразительно реалистичные изображения в стиле спутниковых снимков в любом месте на Земле, используя модели генеративного ИИ.

Функция, основанная на ИИ от Google, была запущена тихо 30 июля, став частью набора Labs. Согласно материалам The Verge, Google представил это как шаг к «демократизации» доступа к высококачественным спутниковым визуализациям.

Этот вирусный отклик, как подтверждают данные отрасли, немедленно выявил масштаб рисков для Google. Они быстро уведомили отдел доверия и безопасности Google, когда инцидент escalated. Поскольку обратная связь поступила так быстро, у команды Google не было другого выбора — они отключили инструмент менее чем за 24 часа, что, согласно рыночным данным, является рекордно коротким временем для запуска такого масштаба.

Опасения по поводу дипфейков и риски безопасности

Вместо простого изменения зданий, эти генеративные модели позволяют пользователям синтезировать целые кварталы или даже целые пограничные зоны — возможности, которые, по словам исследователей, открывают новые горизонты как для тонких, так и для масштабных кампаний дезинформации.

С 2023 года правительства и поставщики критической инфраструктуры поднимают тревогу о опасностях визуальных подделок с использованием ИИ. Мошенничество, мошенничество с недвижимостью, пропаганда — меню рисков продолжает расти. TechCrunch отмечает, что модели глубокого обучения для изображений Земли имеют меньше контролей, чем системы дипфейков для лиц, поэтому окно для злоупотреблений шире, если компании не ограничивают их в безопасных песочницах.

Ответ сообщества и отрасли

Отсутствие четкой маркировки, как показывают опубликованные исследования, побудило стартапы в области картографии, такие как Mapbox и Planet Labs, начать разработку собственных стандартов верификации после ошибки Google. Правительства по всему миру начали требовать более строгих регуляторных норм, ища инструменты, чтобы удержать передовые технологии геоизображений вне открытого рынка до тех пор, пока не будут установлены надлежащие меры защиты. И последствия не ограничивались картографией. Спор вызвал новый скептицизм по поводу редактирования ИИ на других платформах.

Регуляторные последствия и последствия для платформ

Wired сообщает, что правоохранительные органы теперь опасаются, что всплеск спутниковых изображений, подделанных с помощью ИИ, может способствовать преступлениям или политической дезинформации, особенно в разгар выборного сезона.

Широкие последствия для инструментов ИИ

Это изменение подхода, как показывают рыночные данные, может изменить то, как компании и регуляторы думают о синтетических медиа. Теперь давление на разработку отраслевых стандартов для маркировки, отслеживания происхождения и раскрытия информации — не только для творческих инструментов, но и для всех платформ, влияющих на общественную информацию, гражданские записи или новости.

Для более глубоких обзоров Google Yanks Google Earth AI, сравнений или практических отчетов, свяжитесь с нашей технической службой.