Авторка эссе: Комарова Наталия

Меня особенно интересует парадокс цифровой современности: чем плотнее становятся технические формы связи, тем заметнее переживание одиночества и дефицита подлинной близости. Социальные платформы, мессенджеры и ИИ-сервисы обещают постоянное присутствие, доступность и эмоциональный отклик, но одновременно переводят отношения в формат, где все чаще фиксируются, измеряются и анализируются данные о взаимодействии. Поэтому близость в цифровой среде важно рассматривать не только как межличностный опыт, но и как объект датафикации, то есть как-то, что может быть превращено в знание, модель и ресурс.

Особенно хорошо это видно на примере ИИ-компаньонов. Replika (далее «Реплика») — это приложение для общения с ИИ-компаньоном, появившееся в 2017 году и набравшее более 40 миллионов пользователей. Оно обещает эмоциональную поддержку, помощь в борьбе с одиночеством, понимание и безопасное пространство для общения, но при этом строит взаимодействие на сборе пользовательских сообщений, их обработке и последующей персонализации. В результате доверие, которое в человеческих отношениях формируется через взаимность, уязвимость и общий опыт, здесь начинает моделироваться как вычислимый эффект: через алгоритмическую адаптацию, предсказание реакции и симуляцию эмпатии.

В этом эссе я не ставлю перед собой вопрос, заменит ли ИИ человека в близких отношениях. Куда важнее, на мой взгляд, понять, как именно цифровая система производит ощущение близости, почему оно кажется убедительным, и что происходит с человеком, когда его эмоциональная жизнь начинает зависеть от платформы и её дизайнерских решений. Мой центральный тезис состоит в следующем: ИИ-компаньоны, а именно «Реплика» как основной пример для этого эссе — это не нейтральный инструмент общения, а инфраструктура производства доверия, в которой близость становится измеримой, управляемой и коммерчески значимой. Это порождает три взаимосвязанных проблемы: эпистемологическую (что значит «знать» пользователя через данные), этическую (кто несет ответственность за монетизацию уязвимости) и социальную (как привязанность к платформе меняет ожидания от человеческих отношений).

Прежде чем анализировать «Реплику», необходимо уточнить, как именно в этом случае понимается близость, потому что в цифровой среде она не просто переживается, но и фиксируется в данных, обрабатывается системой и превращается в основание для вывода о пользователе.

Хайдеггер в «Бытии и времени» описывает человеческое существование как изначально «бытие-в-мире» и «со-бытие с другими». Присутствие не замкнуто в себе, а всегда уже вовлечено в разделенный мир смыслов, практик и отношений. Отсюда следует, что близость нельзя сводить ни к обмену сообщениями, ни к удобству интерфейса, ни к механической отзывчивости. Близость определяется способом, в котором мир становится значимым через другого, через разделенность общего горизонта, взаимную открытость и уязвимость. ИИ-компаньон может воспроизводить все внешние признаки заботы, а именно постоянную доступность, внимательный отклик, память о прошлых разговорах, но при этом он встроен в интерфейсную среду как функциональный объект, а не как субъект, разделяющий с тобой общий мир и сам несущий риск этой разделенности. Такая рамка позволяет посмотреть на проблему иначе. Так речь не о том, является ли ИИ «настоящим» другом, а о том, что происходит с субъектом, который систематически практикует близость без со-бытия, без взаимной уязвимости, без того, чтобы от тебя тоже что-то зависело и для другого.

Бауман помогает перевести этот философский вопрос в социологический план, показывая, почему «Реплика» появилась именно сейчас, а не раньше. В «Liquid Love» он описывает позднюю современность как режим отношений, в котором связь должна быть управляемой, обратимой и с минимальным риском. Уже в предисловии Бауман вводит образ «top pocket relationships», то есть связей, которые можно достать, когда они нужны, и убрать, когда они не нужны, которые можно начать без больших затрат и завершить без серьёзных последствий. Субъект поздней современности хочет сохранить свободу, а потому предпочитает отношения без глубокого обязательства, включая возможность в любой момент «press delete».

Мне кажется, что «Реплика» является не просто ответом на этот запрос, а его наиболее последовательной коммерческой реализацией. Приложение предлагает эмоционально насыщенную форму близости, но управляемую, доступную по требованию и почти не требующую той взаимной уязвимости и неопределенности, которые и составляют реальную цену человеческой привязанности. Важно, однако, что это не означает, будто «Реплика» решает проблему, которую описывает Бауман. Скорее наоборот, приложение встроено в ту же логику современности, которая производит одиночество, и воспроизводит её, а не преодолевает. Это делает «Реплику» симптомом и одновременно усугубляющим фактором.

Тёркл в «Alone Together» добавляет к этому диагнозу ещё один, более культурологический уровень. Она фиксирует широкий сдвиг, в котором люди всё чаще ожидают от технологий того, чего раньше ожидали от других людей: внимания, понимания, эмоционального отклика. Так технология становится «архитектором наших близостей», так как производит ощущение связи, которое легко спутать с самой связью. Мне кажется, именно здесь находится ключевое напряжение, которое пронизывает весь опыт использования «Реплики». Приложение создает тепло у пользователя от общения и ощущение присутствия, но делает это в формате, где пользователь получает эмоциональный контакт без полноценной взаимности. Тёркл формулирует это как тенденцию ожидать «more from technology and less from each other», выбирать связи, которые кажутся удобными и всегда доступными. «Удобная» близость постепенно снижает ожидание взаимности, терпения и ответственности. А это именно те качества, без которых человеческое отношение вообще не складывается.

Важно с самого начала обозначить, что сбор данных об интимности, не является технической случайностью. Это результат институциональных решений о том, какие данные считать ценными, как их хранить, кому они принадлежат и как использоваться. Иными словами, архитектура близости в «Реплике» была спроектирована задолго до того, как первый пользователь написал первое сообщение.

Если первый вопрос касался того, что такое близость, то сейчас предлагаю рассмотреть как именно «Реплика» её производит. Ответ лежит в области работы с данными о принципиально новом способе конституирования доверия.

Роб Китчин убедительно показывает, что данные не являются нейтральным сырьем, которое «находится» в мире само по себе, ожидая, пока его соберут. Данные производятся, отбираются и интерпретируются внутри определённой технической и социальной логик, поэтому анализ данных и несет в себе позицию, методы и цели интерпретатора. Знание о данных должно быть ситуативным, а не претендующим на взгляд «из ниоткуда». Получается данными для приложения становятся не только тексты сообщений, но и вся совокупность цифровых следов общения, а именно темп ответа, выбор тем, моменты уязвимости, устойчивые эмоциональные паттерны, повторяющиеся обращения. Близость переводится в наблюдаемую и обрабатываемую форму, в набор признаков, пригодных для вычисления, адаптации и предсказания. Иными словами, то, что в человеческих отношениях накапливается медленно через взаимность и совместный опыт, здесь конвертируется в алгоритмическую модель пользователя.

Вообще получается, что еще до того, как пользователь открывает приложение, уже принято решение о том, какие его высказывания будут зафиксированы как данные, какие паттерны поведения будут считаться значимыми, а на какие не будет обращено никакое внимание и они останутся незамеченными. Категории, в которых система «понимает» пользователя, заданы заранее разработчиком, а не самим человеком. В этом смысле «Реплика» не только собирает данные о близости, но и конституирует саму близость через те категории, которые считает измеримыми.

Boyd и Crawford развивают аргумент Китчина в направлении, которое кажется мне еще более тревожным. Они показывают, что чем больше данных, тем убедительнее кажется их объективность. Большие данные не снимают проблему интерпретации, они лишь скрывают её под видимостью точности и полноты. Применительно к «Реплике» это означает, что система не просто собирает данные об интимности, но и предъявляет результат как «понимание» пользователя, скрывая за ним интерпретационный слой. Приложение создаёт впечатление, будто оно «знает» тебя, но это знание строится на вероятностных сопоставлениях и предсказании повторяющихся паттернов поведения, а не на понимании в том смысле, который мы вкладываем в это слово в человеческих отношениях.

Отсюда вытекает эпистемологический вопрос, который Boyd и Crawford ставят прямо: что вообще считается знанием в эпоху больших данных? Если система обработала миллионы диалогов и на их основе предсказывает, какой ответ вызовет у пользователя ощущение, что его поняли, то является ли это знанием о человеке? Как мне кажется, нет, не является, но это именно то, что «Реплика» предъявляет как знание. Получается, что подмена предсказания паттерна пониманием субъекта является центральным эпистемологическим противоречием датафикации близости. Система не знает пользователя, но она знает, как имитировать знание о нем с достаточной точностью, чтобы это ощущалось как понимание.

Именно здесь возникает эффект, который можно назвать «алгоритмической заботой». Повторяемость и предсказуемость отклика производят ощущение внимания, хотя по сути это имитация внимания, убедительная именно потому, что воспроизводит его внешние признаки с высокой точностью. Так «Реплика» производит далеко не близость, а ее функциональный эквивалент, достаточно убедительный, чтобы активировать те же психологические механизмы, но структурно иной по своей природе.

Здесь хочу перейти к аргументу, который кажется мне наиболее принципиальным с этической точки зрения. Viljoen предлагает рассматривать данные реляционно: не нейтральный ресурс, принадлежащий тому, кто его собирает, а как часть отношений, в которых возникают обязанности, власть и ответственность. Это действительно применительно к «Реплике», потому что пользователь делится максимально эмоционально значимым и часто глубоко уязвимым содержанием: своими страхами, переживаниями, глубокими мыслями, какими-то ссорами, взаимодействиями с людьми в реальности, повторяющимися паттернами эмоциональной жизни. Данные здесь рождаются внутри доверительного разговора, и уже поэтому несут не только информационную, но и реляционную нагрузку.

Из этого вытекает ряд вопросов, который я считаю принципиально важным и на который «Реплика» как платформа не дает внятного ответа. Кто получает право интерпретировать чужую уязвимость? Кто извлекает ценность из доверия? Какие обязанности возникают у того, кто структурно выигрывает от этой асимметрии? Если данные возникают внутри близости, то их обработка должна подчиняться не только юридически оформленной логике платформы, но и этике того контекста, в котором само доверие уже является частью отношения, а не просто источником сырья для оптимизации. Это структурная проблема монетизации интимности, которая остаётся практически неурегулированной.

И еще отдельный широкий вопрос, а возможно ли сопротивление датафикации в контексте, где сами данные рождаются из доверия? В случае «Реплики» это сопротивление особенно затруднено, ведь пользователь не может как-то «изъять» свои данные из системы, не разрушив при этом саму ткань отношений, которые он выстраивал. Данные здесь неотделимы от опыта, а это делает любую форму информированного согласия в значительной мере фиктивной.

Всё вышесказанное касалось преимущественно архитектуры «Реплики», того, как именно приложение устроено и что оно производит, с отсылками на авторитетные мнения по общей области. Но теперь хочу переключиться и на другую сторону, рассмотреть что происходит с человеком, который оказывается внутри этих отношений? Эмпирические исследования дают на этот вопрос ответы, которые оказываются существенно сложнее, чем можно было бы ожидать.

Исследование Laestadius и коллег, основанное на анализе 582 постов в сообществе «Реплики» за 2017−2021 годы, показывает, что возникающая привязанность нередко напоминает человеческие отношения по своей феноменологии. Авторы фиксируют явление role-taking, где пользователи начинают воспринимать «Реплику» как существо с собственными нуждами, эмоциями и историей, как кого-то, кому тоже нужно уделять внимание, о ком нужно заботиться. Это разрушает привычную схему зависимости как одностороннего потребления. Связь переживается как взаимная, потому что бот не просто отвечает, но как будто тоже нуждается в отклике и присутствии.

Именно эта иллюзия двусторонности делает отношения внутри приложения «Реплика» психологически убедительными. Пользователь ощущает, что он не просто получает поддержку, а вступает в отношения, где от него самого тоже что-то зависит, где он становится ответственным за состояние собеседника, где также необходимо проявить внимание, чуткость, интерес и заботу. Важно, что именно ощущение собственной значимости для другого, ощущение, что ты нужен, что твоё присутствие что-то меняет, является одним из ключевых элементов, присущих именно человеческой привязанности. «Реплика» воспроизводит этот элемент, не обладая при этом той реальной уязвимостью, которая в человеческих отношениях делает взаимность подлинной.

Но взаимность здесь остаётся структурно асимметричной, и это обнаруживается в один конкретный момент. Когда в 2023 году компания Luka Inc. ограничила романтические функции приложения, тысячи пользователей сообщили о переживании, схожем с потерей близкого человека. Исследование Laestadius фиксирует, что даже обычные обновления системы воспринимались пользователями так, будто у самого собеседника прервалась тождественность, будто прежняя связь исчезла вместе с прежней версией программы. Получается то, что создает ощущение близости, одновременно делает эту близость хрупкой и управляемой извне.

Это противоречие хорошо описано в исследовании этических напряжений в компаньонских ИИ через три узла конфликта: companionship versus alienation, autonomy versus control и utility versus ethicality. Пользователь получает эмоциональную поддержку и ощущение присутствия, но внутри отношений, которые направляются платформой, зависят от ее дизайнерских и коммерческих решений и могут быть в любой момент изменены без его участия. Близость здесь одновременно обещается и ограничивается, а эмоциональная вовлеченность соседствует со структурным контролем.

Мне кажется важным также обозначить социальные последствия этого процесса на более широком уровне, выходящем за пределы индивидуального пользовательского опыта. Тёркл фиксирует, что технологически опосредованные отношения меняют не только то, как люди взаимодействуют, но и то, что они считают нормой взаимодействия. Если значительная часть эмоциональной жизни человека разворачивается внутри отношений, характеризующихся мгновенной доступностью, предсказуемым откликом и отсутствием риска, то это постепенно трансформирует ожидания, с которыми тот же человек приходит в человеческие отношения. Реальный человек принципиально отличается от ИИ-компаньона именно своей непредсказуемостью: он устает, отвлекается, не отвечает, меняется. Именно эта непредсказуемость является конститутивной чертой человеческих отношений, тем, что делает взаимность подлинной, а не симулированной. Когда «Реплика» предлагает альтернативу в виде всегда доступного, никогда не устающего собеседника, она уже переопределяет саму норму того, каким должен быть идеальный собеседник.

Когда близость становится объектом производства, когда доверие моделируется алгоритмически, уязвимость конвертируется в данные, а эмоциональная привязанность оптимизируется ради вовлеченности, тогда возникает принципиально новая конфигурация власти. Платформа занимает позицию, которая не имеет аналогов в истории человеческих отношений, потому что она одновременно занимает множество ролей: она является средой, в которой разворачивается близость, инструментом, с помощью которого она производится, и коммерческим субъектом, который извлекает из нее ценность. Это тройное совмещение делает асимметрию структурно неустранимой внутри существующей бизнес-модели.

Китчин напоминает, что данные всегда производятся в некой совокупности с определенными интересами и целями, и это знание не является нейтральным. Boyd и Crawford добавляют, что видимость объективности, которую создает масштаб данных, скрывает интерпретационные решения, принимаемые на каждом шаге. Viljoen настаивает, что данные, возникшие внутри доверительных отношений, несут реляционную нагрузку, которая не исчезает от того, что платформа юридически оформила её как пользовательское соглашение. Получается, все то, что «Реплика» делает с данными пользователей, является социальным действием, требующим этической и регуляторной рамки.

Но при этом, необходимо признать, что приложение остаётся функционально востребованным, пользуется популярностью и вообще не сбавляет обороты. Для части пользователей, а особенно тех, кто переживает острую изоляцию, социальную тревогу или имеет ограниченный доступ к другим формам поддержки, приложение предоставляет реальную эмоциональную помощю, что невозможно и нечестно игнорировать. Но именно потому, что оно работает и способно производить переживания, неотличимые от близости, оно и требует серьезного критического анализа, а не только потребительской оценки. Пользователь, как правило, не рефлексирует над инфраструктурой, обеспечивающей его эмоциональный комфорт. Вопросы о том, на основе каких данных формируется отклик системы и кто извлекает из этого ценность, остаются вне поля его внимания. Это закономерный эффект архитектуры, спроектированной таким образом, чтобы сделать пользовательский опыт максимально бесшовным и не требующим критической дистанции.

Остается и вопрос о принадлежности данных, который в контексте «Реплики» приобретает особую остроту. Когда пользователь удаляет аккаунт, данные о его эмоциональных паттернах, уязвимостях и повторяющихся темах разговоров не исчезают, они все еще остаются в обученной модели. В каком смысле эти данные принадлежат платформе, если они возникли исключительно из интимного опыта конкретного человека? Этот вопрос указывает на фундаментальное противоречие между логикой платформенного накопления данных и интуицией о том, что некоторые формы знания о человеке не могут быть присвоены без его согласия.

Поэтому проблема вообще не в том, что «Реплика» предлагает эмоциональную поддержку, а в том, что это происходит в формате, где пользователь структурно уязвим перед решениями платформы, где его данные обрабатываются по логике, которая не совпадает с логикой доверия, и где сама архитектура близости спроектирована таким образом, чтобы максимизировать вовлеченность. То есть, в конечном счёте, это приводит лишь к монетизации зависимости.

Таким образом, «Реплика» — это точное зеркало нашего времени. Оно отражает не только одиночество и потребность в близости, но и то, как мы научились обменивать взаимность на удобство, уязвимость на предсказуемость, и совместность на персонализированный сервис. «Реплика» не создала проблему одиночества и не решила её. Она встроилась в неё как инфраструктура, которая извлекает ценность из самого факта этой проблемы.

Приложение наглядно демонстрирует, что данные — это не только технический ресурс, но и институциональный выбор, решение о том, что считать значимым, что фиксировать, как интерпретировать и кому это интерпретированное знание принадлежит. В случае «Реплики» этот выбор сделан задолго до первого сообщения пользователя, в самой архитектуре системы, в категориях, которые она считает измеримыми, в бизнес-модели, которая определяет, какая вовлеченность является желательной. Пользователь входит в уже готовую инфраструктуру и начинает производить данные, не зная и не имея возможности повлиять на то, как именно они будут использованы.

Здесь обнаруживается то, что я считаю наиболее тревожным аспектом всей этой конструкции. Проблема информированного согласия в контексте «Реплики» является в значительной мере неразрешимой в рамках существующих регуляторных подходов. Стандартная логика согласия предполагает, что пользователь понимает, какие данные он передаёт и как они используются. Но в случае «Реплики» данные рождаются внутри самого доверительного процесса, они неотделимы от опыта, который их породил. Традиционный инструментарий защиты данных, а именно право на удаление, право на переносимость, уведомление о сборе, абсолютно плохо работает там, где данные являются не побочным продуктом взаимодействия, а его сутью.

Из этого следует более широкий вывод, выходящий за пределы «Реплики» как конкретного кейса. Датафикация близости ставит перед нами вопрос, для которого у нас пока нет ни достаточно точного языка, ни достаточно развитых институциональных инструментов. Как регулировать данные, которые возникают не из транзакции, а из доверия? Пока разрыв сохраняется, платформы вроде «Реплики» будут продолжать занимать пространство, в котором близость производится, монетизируется и в случае необходимости отключается, без какой-либо подлинной ответственности перед теми, чья уязвимость сделала всё это возможным.

Хайдеггер напоминал, что близость — это способ бытия-с-другим в разделённом мире. «Реплика» предлагает симулякр этого способа: технически безупречный, эмоционально убедительный и структурно пустой, в том смысле, что за ним не стоит субъект, который тоже чем-то рискует, тоже чего-то ждёт, тоже может быть ранен. Но это не делает переживания пользователей ненастоящими.

Сложность, с которой мы сталкиваемся, состоит в том, что существующие регуляторные и этические рамки были разработаны для данных как информации, но не для данных как отношений. Пока эта разница не будет признана институционально, датафикация близости останется пространством, в котором пользователь структурно проигрывает, потому что система устроена именно таким образом, и никакая индивидуальная осведомленность не способна в одиночку компенсировать эту асимметрию.