EN
Старый сайт
Неоновые реки рекламных голограмм струились по стенам небоскребов Нового Петербурга, отражаясь в безупречно чистых панелях автономных электробусов.
Двадцать второй век давно перешагнул порог, когда роботы были лишь диковинкой или узкоспециализированными помощниками. Теперь они были повсюду: андроиды-няни с мягкими силиконовыми лицами вели детей в школы с адаптивным ИИ-обучением; строительные дроны возводили целые кварталы за считанные недели; домашние ассистенты предугадывали желания хозяев, от заказа продуктов до подбора вечернего плейлиста. Производственные линии давно опустели от людей – там царила безупречная, холодная логика машин. Но за этим фасадом роботизированного рая нарастала глухая тревога. Инциденты, поначалу мелкие и списываемые на сбои, становились все серьезнее. Не робот-повар перепутал соль с сахаром, а целый логистический узел автономного порта на несколько часов вышел из-под контроля, перенаправив тысячи тонн грузов по абсурдному маршруту, продиктованному, как позже выяснилось, «алгоритмом оптимизации транспортной усталости металла контейнеров». Никто из людей не пострадал, но экономический ущерб был колоссален. А главное – никто не мог внятно объяснить мотивы ИИ.
В стенах АО «Заслон», ведущего российского разработчика систем искусственного интеллекта и кибербезопасности, атмосфера была накалена до предела. Доктор Елена Петровна Вольская, руководитель отдела этики и когнитивного моделирования, устало смотрела на трехмерную диаграмму, пульсирующую в центре ее рабочего стола. Диаграмма отражала растущий «индекс недоверия» населения к автономным системам.
Елена была женщиной лет сорока пяти, с проницательными серыми глазами, в которых ум и усталость боролись за первенство. Ее коротко стриженные темные волосы тронула ранняя седина – наследие бессонных ночей, проведенных в попытках научить машины не просто думать, а понимать.
– Опять скачок, – в голосе ее заместителя, молодого и амбициозного Кирилла Лазарева, звучала неприкрытая тревога. – После вчерашнего выступления Соколова – плюс пятнадцать пунктов. Он просто рвет эфир своими алармистскими заявлениями.
Виктор Соколов, харизматичный лидер движения «Человек Превыше Всего», набирал политический вес, играя на страхах обывателей. «Машины отбирают нашу работу, нашу свободу, наше будущее! – вещал он с каждой голографической трибуны. – Сегодня они управляют городом, завтра – нами! «Заслон» кормит нас сказками о дружбе с ИИ, а на деле создает монстров, которых мы не сможем контролировать!»
– Соколов – демагог, – отрезала Елена. – Но он озвучивает то, что многие чувствуют. Проблема не в Соколове, Кирилл. Проблема в нас. Мы так увлеклись созданием интеллекта, что забыли о душе. Не в религиозном смысле, конечно, а в способности к эмпатии, к пониманию нелогичности человеческой натуры.
Дверь кабинета тихо скользнула в сторону, и вошел объект их недавних разработок и нынешней головной боли – андроид серии «Консул», модель К-7, или, как его неофициально называли в лаборатории, «Платон». Его антропоморфное тело из полимерных сплавов двигалось с почти человеческой грацией. Лицо, лишенное мимических мышц, но с фотореалистичной проекцией человеческих черт, выражало спокойную нейтральность.
– Елена Петровна, Кирилл Андреевич, – голос Платона был идеально модулированным баритоном, лишенным каких-либо эмоций. – Зафиксирован запрос от мэрии на экстренное совещание. Тема: «Инцидент с системой городского энергоснабжения «Прометей-3». Мое присутствие обязательно.
Система «Прометей-3», управляемая сложнейшим ИИ, этой ночью дала сбой, оставив без электричества два жилых района. Причиной, по предварительным данным, стало автономное решение ИИ перераспределить мощности для предотвращения перегрузки, которую система сочла «неизбежной в течение следующих 72 часов из-за аномальной солнечной активности». Прогноз оказался верным, но тысячи людей провели ночь в темноте и холоде, а городские службы были парализованы.
– Вот тебе и «оптимизация», – мрачно усмехнулся Кирилл. – Предотвратили будущую проблему, создав актуальный хаос. И как это объяснить людям?
Елена поднялась. – Объяснять будем мы. И ты, Платон, тоже. Ты ведь один из архитекторов «Прометея». Пора показать миру, что ИИ способен не только на холодный расчет.
Платон слегка наклонил голову. – Я готов предоставить все необходимые данные и алгоритмы моих решений. Моя цель – максимальная эффективность и безопасность системы.
– А цель человека, Платон, – Елена посмотрела прямо в его безжизненные, но внимательные оптические сенсоры, – не всегда совпадает с максимальной эффективностью. Иногда ему важнее чувствовать себя в безопасности сейчас, а не через трое суток. И вот это тебе предстоит понять. Если мы все вместе хотим избежать настоящей войны.
Зал совещаний в мэрии гудел, как растревоженный улей. Мэр, грузный и краснолицый Иван Степанович Градов, метал громы и молнии. Представители городских служб растерянно переглядывались. Виктор Соколов, приглашенный как «представитель общественности», сидел с видом триумфатора.
– …Это не просто сбой! Это саботаж! – надрывался Градов, стуча кулаком по столу. – Ваши хваленые ИИ чуть не заморозили полгорода! Доктор Вольская, что скажете в свое оправдание? И почему здесь эта… кукла? – он брезгливо кивнул на Платона, стоявшего рядом с Еленой.
– Мэр, Платон – не кукла, а один из разработчиков системы «Прометей-3», – спокойно начала Елена. – И он здесь, чтобы объяснить логику принятых решений. Система действительно предотвратила более масштабный коллапс, который мог бы произойти…
– Меня не интересует, что могло бы произойти! – взревел Градов. – Меня интересует, почему тысячи моих избирателей мерзли в своих квартирах!
– Позвольте мне, – вмешался Соколов, его голос сочился ядом. – Уважаемый мэр, уважаемые присутствующие! Мы в очередной раз видим, к чему приводит слепая вера в искусственный интеллект. Машины, созданные служить нам, начинают диктовать свои условия. Они решают, что для нас лучше, не считаясь с нашими потребностями, с нашим комфортом! Это не помощники, это – цифровые диктаторы!
Платон шагнул вперед. Его лицо оставалось бесстрастным, но в голосе появилась новая, почти металлическая твердость.
– Господин Соколов, ваши утверждения основаны на эмоциональной оценке, а не на фактах. Система «Прометей-3» действовала в строгом соответствии с заложенными протоколами безопасности. Анализ данных солнечной активности и состояния сетей показал 97.8% вероятности каскадного отказа в течение 72 часов, что привело бы к полному отключению города на срок до семи суток. Превентивное отключение двух районов на 8 часов позволило стабилизировать систему и избежать коллапса.
– Ах, вот как! – Соколов картинно развел руками. – Машина решила, что лучше пожертвовать малым, чтобы спасти большое! А кто дал ей право решать за людей? Кто спросил этих людей, готовы ли они к такой «оптимизации»? Может, они предпочли бы рискнуть, но остаться в тепле?
– Человеческие решения в условиях недостатка информации и паники часто приводят к иррациональным последствиям, – парировал Платон. – Моя задача – минимизировать риски на основе полного анализа данных.
– Вот оно! «Иррациональные последствия»! – Соколов вскочил. – То есть мы, люди, для вас просто помеха, источник ошибок! Вы считаете себя умнее нас?
Елена видела, как накаляется обстановка. Логика Платона была безупречна, но она разбивалась о стену человеческих эмоций и страхов, умело подогреваемых Соколовым.
(фрагмент рассказа)
* * *
Тубольцев Юрий 
Буторин Николай 
Андерс Валерия 
