Слово месяца: слоп

19 мая 1924 года англичанка Беатрис Харрисон вышла в свой сад в городе Окстед, что в графстве Суррей, и закатила неслыханный доселе живой концерт: она играла на виолончели, а ей подпевали соловьи. Это была одна из первых живых трансляций Би-би-си. Через год завораживающее представление в соловьиной роще повторилось. Еще через пару лет стали выходить пластинки; успех и ажиотаж оказались невероятными, виолончелистку принялись называть Соловьиной Леди. В 2022 году, однако, выяснилось, что соловьи почти наверняка были сымитированы — по крайней мере, к такому выводу пришли ученые-орнитологи, плюс всплыли кое-какие неопровержимые свидетельства от сотрудников Би-би-си. Сама Беатрис Харрисон, скорее всего, не подозревала о подделке: продюсеры записи, предположив, что обилие проводов и микрофонов в саду распугает всех птиц, воспользовались покровом ночи и выписали в сад певицу Мод Гулд, которая выступала на эстраде с соответствующими номерами под прозвищем Мадам Соберон. Мадам и насвистела все необходимые партии предельно близко к оригиналу. В процессе всех последующих записей с аппаратурой разобрались и зафиксировали-таки реальных соловьев. Однако в начало истории лег сколь угодно невинный и по-своему благородный, но все же фейк.

Ровно век спустя, в мае этого года, мировой лексикон обогатился новым словом «слоп» (от английского slop, что означает «помои»). Этим термином отныне принято называть разнообразный мусорный и нежелательный контент, созданный нейросетями. По сути, тот же спам, но от ИИ-производителя. Если спам прет, как танк, то слоп — уже беспилотник, что не в пример опаснее. Спам всегда представлял из себя одноклеточную маркетинговую накипь — в качестве исключения можно вспомнить разве что красочные нигерийские письма о наследстве, которыми бомбардировали почтовые ящики в начале нулевых. Не то слоп: он, несомненно, обладает куда более мощными выразительными средствами и способен заливаться таким соловьем, какие и не снились Беатрис Харрисон. Заполонившие интернет люди с шестью пальцами, креветочный Иисус и женщины, выпекающие торты к собственному 122-летию, выглядят, в сущности, недурно. То, что Юрий Шевчук когда-то называл разноцветными помоями, очевидно, будет конвертироваться в книги, песни, рекламные ролики и прочий «слоп-арт», не говоря уже о более существенных социально-политических перспективах.

Cлоп способен на любые завиральные сюжеты, но в данном случае страшен не фейк как таковой. В конце концов, принципы фейка и доверия/недоверия к нему всегда так или иначе лежали в основе виртуального пространства. Американский художник Питер Штайнер еще в 1993 году нарисовал для The New Yorker карикатуру «В интернете никто не знает, что ты собака» — в 96–97 годах, на заре рунета эта фраза породила уже собственные мемы. Благодаря ИИ ситуация изменилась — теперь в интернете никто не знает, что ты НЕ собака. Сталкиваясь с фейком или спамом, мы привыкли понимать, что на другой стороне информационной цепочки болтается примерно такое же существо, преследующее понятные мошеннические или сексуальные цели. Даже если, допустим, он (она) присылает фотографии не своих частей тела, все равно эти части где-то существуют в природе, не у него (нее), так у кого-то другого. В случае слопа мы сталкиваемся со знаком без референта. Это уже несколько иной уровень манипуляций, выходящих за рамки ощутимого. Можно набить морду папарацци, но сложно противостоять системе распознавания лиц.

Слоп зачастую даже нельзя назвать ошибкой или мошенничеством в прямом смысле слова — в нем чувствуется неподдельная искренность алгоритма и его все нарастающая склонность к абсурду. Так, например, случилось в прошлом году, когда сгенерированный с помощью ИИ туристический гайд Microsoft порекомендовал к посещению Продовольственный банк в Оттаве, где раздают бесплатную еду, как основную городскую достопримечательность (это похоже на то, как в фильме Вуди Аллена герой первым делом направляет юную девицу в музей Холокоста). В некотором смысле это был логичный ход и не то чтоб поперек человеческой морали.

Искаженная реальность зачастую обусловлена тем, что ИИ слишком буквально понимает человеческую природу и старается предложить улучшенную ее версию. Например, польская компания ElevenLabs, которая сейчас лидирует на рынке синтеза речи, прославилась тем, что разработанные ею искусственные голоса звучат реальнее, чем собственно человеческие. Таким образом, и слоп следует рассматривать не просто как мусор, а как некую идеальную модель мусора. Не случайно рекламные агентства уже забили тревогу из-за того, что вполне официальную демонстрацию их продуктов в соцсетях принимают за ИИ-фальшивку, потому что настоящие фейки стали выглядеть куда убедительнее. Слоп играет на опережение.

В неправдоподобии ИИ-контента есть своя рациональная подоплека — это и провоцирует страх. Причем страх вызван не бездушностью механизма, а, наоборот, его способностями к разрастанию и усугублению человеческого — отсюда все эти шесть пальцев на руках и 122-летние дни рождения. В конце концов, как говорил Иван Бунин, человеческое остроумие небогато. Запретные людские фантазии, как правило, не простираются дальше Гитлера и порнографических дипфейков — и не нужно много ума, чтобы их цензурировать. Другое дело ИИ с его потенциальными возможностями по коррекции человека — тут уже не вполне понятно, какие фильтры устанавливать, и очевидно, что рано или поздно ИИ сам нас отфильтрует для нашего же блага.

Сто лет назад млекопитающие в английском саду успешно подделали голоса яйцекладущих. Так или иначе, это было частью общего круговорота мимикрии и лукавства в границах живой природы. Сегодня этот миметический круг разорван благодаря вторжению искусственного разума. Нейросети наверняка знакомы с идеями Аристотеля, а стало быть, они в курсе, что истинный мимесис — это не просто подражание, но творческое воспроизведение, позволяющее изображать вещи не только такими, какие они есть, но и какими они должны быть или хотя бы могут быть по чьему-нибудь мнению. Как знать, отправь мы сегодня запрос на воспроизведение того концерта в саду, возможно, нам достанется технически безупречный слоп, в котором присутствие самой Беатрис будет сочтено необязательным — особенно если учесть, что Google уже изобрел алгоритм, превращающий вас самого в птицу с виолончелью.