Водяной знак Sora 2 можно удалить — и это открывает двери фейкам и мошенникам
За последние годы опасения по поводу ИИ выросли в разы. Дело не только в лени людей, которые больше не хотят читать и писать, но и в возможности заполнять интернет поддельными видео — не просто сбивающими с толку, а намеренно лгущими.
Теперь, когда вышла Sora 2 и собрала беспрецедентный миллион загрузок всего за несколько дней, интернет наводнили способы убрать водяной знак с видео. Исчезает единственный маркер, который сообщал зрителю: перед ним ролик, созданный ИИ.
Что может пойти не так?
Это было неизбежно — и всё же на это ушло всего около пяти дней. Все это предсказывали, и бесит, что создатели Sora не восприняли угрозу всерьёз.
«На запуске все материалы содержат видимый водяной знак», — довольно наивно заявили в OpenAI в своём блоге. «Все видео Sora также содержат метаданные C2PA — отраслевой стандарт подписи, а мы поддерживаем внутренние инструменты обратного поиска по изображению и звуку, которые с высокой точностью могут отследить видео до Sora, опираясь на успешные системы ChatGPT и Sora 1.»
Непонятно, как они не предположили, что это обойдут так быстро — это демонстрирует полное отсутствие самосознания или заботы.
В TikTok уже полно вирусных роликов без водяных знаков. Теперь остаётся только гадать — насколько легко окажется обойти защиту изображения и внешности, которую они обещали, или как решатся все вопросы авторских прав.
Для широкой публики
Я серьёзно беспокоюсь из-за мошенников и фейковых новостей с участием публичных фигур, которые могут разжигать насилие или распространять ложь.
Можно представить фейковые FaceTime-звонки, чтобы выманивать деньги у пожилых людей, или поддельные новостные выпуски с теми же целями.
А если кто-то сгенерирует «обращение» мирового лидера — например, о запуске ядерного удара или призыве к преследованию людей или групп?
Здесь возможны самые мрачные сценарии.
В чём угроза для кинематографистов
Для тех, кто посвятил жизнь ремеслу, угроза куда глубже, чем просто потеря работы. Это — кризис для самого искусства, удар по его ценности с разных сторон.
Обесценивание мастерства и навыка
Кино — коллективное искусство, построенное на десятилетиях опыта и уникальных компетенций. Чтобы стать мастером, нужно много раз ошибаться.
Оператор не просто наводит камеру — он умеет передавать эмоции светом и ракурсом. VFX-художник годами осваивает софт, чтобы создавать правдоподобные миры. Сценарист пишет множество сценариев, прежде чем находит свой голос и зрителя.
Когда одна строка запроса может сгенерировать кадр «в стиле Роджера Дикинса», это обесценивает сам смысл обучения и стиля.
«Счастливые случайности» и человеческая импровизация, рождающие кино-магиию, заменяются вычисленной, алгоритмической переработкой прошлого.
Ты больше не учишься и не создаёшь новое — ты просто копируешь то, что уже было.
Интеллектуальная собственность и художественная идентичность
Самая ближайшая линия конфликта — это данные, на которых обучаются эти модели. Почти наверняка Sora 2 тренировали на гигантской библиотеке фильмов и видео — вероятно, без согласия и компенсации создателям.
Весь мировой труд — каждый кадр, который мы когда-либо поставили, каждая сцена, которую мы когда-либо смонтировали — используется для создания машины, которая теперь стремится нас заменить.
Отсюда возникает огромная творческая проблема: как защитить свой уникальный визуальный язык, если ИИ может в любой момент его воспроизвести? Что помешает студии уволить режиссёра и просто приказать ИИ завершить фильм «в его стиле»?
Так подпись художника превращается в товар, который можно копировать, — и у него отбирают самое ценное: голос.
Теория авторства несостоятельна, если компьютер может просто взять и воспроизвести вас.
Поток «контента» вместо искусства
Можно сколько угодно говорить о «демократизации кино», но небольшие барьеры входа защищали нас от цунами скучного и пустого контента. Теперь шлюзы открываются. Интернет захлестнёт море технически безупречных, но бездушных роликов, реклам и короткометражек, сгенерированных ИИ.
Как тебя вообще найдут среди всего этого мусора?
Для независимых режиссёров это означает одно: во много раз сложнее будет донести до зрителя осмысленную, человеческую работу.
Заключение
Как уже было сказано, тревога растёт не первый день. И похоже, эти компании никогда не станут контролировать себя. Мы даже водяные знаки не можем им доверить — с какой стати доверять им всё остальное?
