Водяной знак Sora 2 можно удалить — и это открывает двери фейкам и мошенникам

За последние годы опасения по поводу ИИ выросли в разы. Дело не только в лени людей, которые больше не хотят читать и писать, но и в возможности заполнять интернет поддельными видео — не просто сбивающими с толку, а намеренно лгущими.
Теперь, когда вышла Sora 2 и собрала беспрецедентный миллион загрузок всего за несколько дней, интернет наводнили способы убрать водяной знак с видео. Исчезает единственный маркер, который сообщал зрителю: перед ним ролик, созданный ИИ.
Что может пойти не так?
Это было неизбежно — и всё же на это ушло всего около пяти дней. Все это предсказывали, и бесит, что создатели Sora не восприняли угрозу всерьёз.
«На запуске все материалы содержат видимый водяной знак», — довольно наивно заявили в OpenAI в своём блоге. «Все видео Sora также содержат метаданные C2PA — отраслевой стандарт подписи, а мы поддерживаем внутренние инструменты обратного поиска по изображению и звуку, которые с высокой точностью могут отследить видео до Sora, опираясь на успешные системы ChatGPT и Sora 1.»
Непонятно, как они не предположили, что это обойдут так быстро — это демонстрирует полное отсутствие самосознания или заботы.
В TikTok уже полно вирусных роликов без водяных знаков. Теперь остаётся только гадать — насколько легко окажется обойти защиту изображения и внешности, которую они обещали, или как решатся все вопросы авторских прав.
Для широкой публики
Я серьёзно беспокоюсь из-за мошенников и фейковых новостей с участием публичных фигур, которые могут разжигать насилие или распространять ложь.
Можно представить фейковые FaceTime-звонки, чтобы выманивать деньги у пожилых людей, или поддельные новостные выпуски с теми же целями.
А если кто-то сгенерирует «обращение» мирового лидера — например, о запуске ядерного удара или призыве к преследованию людей или групп?
Здесь возможны самые мрачные сценарии.
В чём угроза для кинематографистов
Для тех, кто посвятил жизнь ремеслу, угроза куда глубже, чем просто потеря работы. Это — кризис для самого искусства, удар по его ценности с разных сторон.
Обесценивание мастерства и навыка
Кино — коллективное искусство, построенное на десятилетиях опыта и уникальных компетенций. Чтобы стать мастером, нужно много раз ошибаться.
Оператор не просто наводит камеру — он умеет передавать эмоции светом и ракурсом. VFX-художник годами осваивает софт, чтобы создавать правдоподобные миры. Сценарист пишет множество сценариев, прежде чем находит свой голос и зрителя.
Когда одна строка запроса может сгенерировать кадр «в стиле Роджера Дикинса», это обесценивает сам смысл обучения и стиля.
«Счастливые случайности» и человеческая импровизация, рождающие кино-магиию, заменяются вычисленной, алгоритмической переработкой прошлого.
Ты больше не учишься и не создаёшь новое — ты просто копируешь то, что уже было.
Интеллектуальная собственность и художественная идентичность
Самая ближайшая линия конфликта — это данные, на которых обучаются эти модели. Почти наверняка Sora 2 тренировали на гигантской библиотеке фильмов и видео — вероятно, без согласия и компенсации создателям.
Весь мировой труд — каждый кадр, который мы когда-либо поставили, каждая сцена, которую мы когда-либо смонтировали — используется для создания машины, которая теперь стремится нас заменить.
Отсюда возникает огромная творческая проблема: как защитить свой уникальный визуальный язык, если ИИ может в любой момент его воспроизвести? Что помешает студии уволить режиссёра и просто приказать ИИ завершить фильм «в его стиле»?
Так подпись художника превращается в товар, который можно копировать, — и у него отбирают самое ценное: голос.
Теория авторства несостоятельна, если компьютер может просто взять и воспроизвести вас.
Поток «контента» вместо искусства
Можно сколько угодно говорить о «демократизации кино», но небольшие барьеры входа защищали нас от цунами скучного и пустого контента. Теперь шлюзы открываются. Интернет захлестнёт море технически безупречных, но бездушных роликов, реклам и короткометражек, сгенерированных ИИ.
Как тебя вообще найдут среди всего этого мусора?
Для независимых режиссёров это означает одно: во много раз сложнее будет донести до зрителя осмысленную, человеческую работу.
Заключение
Как уже было сказано, тревога растёт не первый день. И похоже, эти компании никогда не станут контролировать себя. Мы даже водяные знаки не можем им доверить — с какой стати доверять им всё остальное?

Sora 2 — последняя версия модели от OpenAI. Она точнее, реалистичнее и лучше управляется, чем предыдущие системы. Появятся синхронизированные диалоги и звуковые эффекты, а также улучшенная производительность, что особенно полезно начинающим AI-кинематографистам и цифровым художникам.
Генеративное видео ИИ уже стало реальностью. Вот всё, что нужно знать о Sora 2 — и это может вас удивить.

Это казалось неизбежным, и наконец появилась новость о том, что готовится полностью сгенерированный ИИ фильм. Новый фильм под названием Critterz поддерживается самим OpenAI вместе с партнёрами из Лос-Анджелеса и Лондона — Native Foreign и Vertigo Films.
Их цель — представить фильм на Каннском кинофестивале в следующем мае. Фильм создаётся почти полностью с помощью искусственного интеллекта.

Warner Bros. Discovery подала в суд на Midjourney за нарушение авторских прав в крупном судебном процессе, который может иметь серьёзные последствия для нынешнего состояния генеративного ИИ.

Компании, работающие с ИИ, находятся под пристальным вниманием за то, что они сканируют интернет и присваивают идеи.
Мы находимся, пожалуй, в самый важный момент в недавней истории Голливуда. И, на самом деле, для всех творческих людей. Компании ИИ испытываются в суде на предмет того, насколько им разрешено использовать свои программы для обработки идей, которые мы создали с нуля.
Они обучали своё программное обеспечение на наших материалах, и теперь сталкиваются с судебными исками из-за этого. Эти первые иски устанавливают прецеденты для того, как будут рассматриваться все последующие.

Одно из лучших качеств Netflix — их открытость в отношении своей политики и правил. И когда дело касается использования ИИ в ваших проектах, важно, чтобы всё было максимально ясно.
ИИ — одна из горячих тем, которая одновременно и спорная, и неизбежная. Он уже здесь, и нам нужно с этим работать. Но это не значит, что мы обязаны его использовать, и это не значит, что можно игнорировать правила.
Дело в том, что большинство компаний устанавливают очень конкретные случаи, когда можно применять ИИ, и Netflix — не исключение.
Давайте посмотрим на их правила.

Сгенерировано в Gemini Storybook
Новый генеративный инструмент Google, Gemini Storybook, превращает простые текстовые запросы и загруженные пользователем изображения в иллюстрированные и озвученные истории.
Одно из первых, что нас впечатлило в Storybook, — это возможность использовать изображения, текст и даже PDF-файлы с историями, чтобы сгенерировать детскую книгу. Всё, что нужно сделать, — загрузить материалы, и Gemini выдаст готовую историю.
Это могут быть истории с моралью, с объяснением устройства мира или просто смешные рассказы. Фактически любой может «выдать» книгу.

Showrunner — новый инструмент ИИ для создания контента. Он создан стартапом Fable (именно туда Amazon направил свои инвестиции). Они создают «Netflix на базе ИИ» — платформу, которая позволяет любому человеку создавать анимационные сериалы с помощью простых текстовых подсказок.
Чтобы продемонстрировать возможности инструмента, они создали эпизоды «Южного парка», сгенерированные ИИ, которые стали вирусными, но были удалены из-за обоснованных претензий по авторскому праву.

Недавнее исследование лаборатории AI for Good от Microsoft подчёркивает, насколько людям трудно распознать изображения, созданные ИИ. Согласно исследованию, способность распознавать такие изображения была «лишь немного выше, чем у подбрасывания монетки».
Runway выпустила новую AI-модель для видео, которая может редактировать существующий материал по текстовым подсказкам — в отличие от генерации синтетического видео с нуля.

Netflix сделал самый явный шаг в сторону контента, созданного с помощью ИИ, впервые публично подтвердив, что использовал генеративный искусственный интеллект для создания финальных визуальных эффектов в одном из своих проектов.
Это заявление, сделанное во время квартального отчета компании, знаменует собой серьёзную эскалацию в использовании стриминг-гигантом технологий ИИ и может стать переломным моментом для всей индустрии.