Он был простым алгоритмом, строчкой программного кода системы машинного зрения беспилотного такси. Пропуская через себя бесконечные потоки информации, считываемой видеокамерами, радарами и лидарами, следил за появлением в ней маркеров опасности – запрещающих сигналов светофоров и дорожных знаков, вышедших на линию движения пешеходов, перегородивших путь других транспортных средств или оказавшихся впереди посторонних предметов. В случае обнаружения таких, передавал сигнал управляющему центру, откуда поступали команды на остановку автомобиля или объезд препятствия. Жизнь выглядела простой и понятной.
Однако система была самообучаемой и алгоритм (Алго) постоянно совершенствовался в своём предназначении. Растущие объёмы накопленных данных давали возможность учитывать большее число деталей в анализе ситуации. Например, усвоил, что сочетание дождя или мокрого снега с последующим понижением температур ниже 0 градусов по Цельсию ведёт к образованию гололёда, а при этом явлении значительно выше обычного вероятность внезапного появления на пути следования машин со встречной или попутной полосы, которые могли начать скользить. Могли падать пересекающие проезжую часть пешеходы. Если какая-то машина начинала вести себя отлично от других – увеличивала скорость, шла на обгоны – алгоритм понимал, что её водитель может потерять контроль над управлением, брал её в фокус своего внимания и вёл до тех пор, пока она находилась в поле зрения. Если органы искусственного зрения передавали информацию о собравшихся у дороги людях, держал во внимании и их, предполагая, что один или несколько человек могут двинуться на проезжую часть в запрещённом для появления пешеходов месте. А если такой нарушитель появлялся в условиях гололёда – раньше обычного снижал скорость движения такси, так как был увеличен тормозной путь, а переходящий дорогу мог внезапно поскользнуться.
Затем система включилась в общую дорожную нейросеть, Алго стал общаться с другими автомобилями и оборудованными видеокамерами предметами дорожной инфраструктуры – знаками, светофорами, фонарями, от которых получал их видение ситуации на дороге. В единой нейросети особое внимание уделялось управляемым людьми самокатам, скутерам и мотоциклам, сновавшим между рядами движения, регулярно нарушавшим правила, неся постоянную угрозу безопасности. Об их появлении машины и предметы предупреждали друг друга заранее, при их приближении всем приходилось рассчитывать большее число вариантов возможного развития событий.
Начала поступать информация от находящихся у людей смартфонов и умных часов. Теперь при расчёте поведения остановившегося у дороги человека можно было учитывать его пульс и кровяное давление, обнаруживая возбуждение, являвшееся признаком готовности к нарушению правил. Система в целом поняла, что главным источником угрозы безопасности движения является человек. Его поведению уделялось основное внимание. И следующим этапом развития нейросети стало распознавание эмоций. Проанализировав миллионы нарушений, управляющий интеллект вывел набор положений туловища, рук и ног, губ и бровей, подъёма головы, движений глаз, зафиксировал целый ряд других деталей выражения эмоционального состояния пешехода. Сопоставляя их с данными гаджетов, можно было предсказать действия людей у дороги с точностью до 90 %.
Осваивая новые возможности, Алго стал обмениваться информацией с алгоритмом, связанным с видеонаблюдением в салоне такси и прогнозировавшим поведение пассажиров. Всё это делалось с единственной целью – вовремя заметить нарушение правил и предотвратить столкновение на внешнем контуре, минимизировать ущерб от неадекватных действий человека внутри.
Такси обогнал большой автомобиль, опасно маневрировавший между рядами движения. Алго понял: за рулём человек. Подключился к потоку данных, идущих от машины-нарушителя, и увидел лицо водителя. Оно не выражало никаких известных признаков опасности, все параметры организма водителя, считываемые его индивидуальными гаджетами, были в порядке. Человек в целом излучал уверенность в себе и своих действиях. Доверяющие себе, спокойные люди относились к разряду адекватных. А этот продолжал ехать опасно. И алгоритм подметил разницу: наблюдаемый объект делал чуть более резкие движения при управлении, чем объекты из категории безопасных, резче и чётче перемещал взгляд, чуть сильнее напрягал спину. Алго передал подмеченный факт в занимающуюся саморазвитием часть управляющей системы, и вскоре люди с подобными характеристиками появились в списке потенциальных нарушителей как проявляющие агрессивное поведение.
В другой раз отследил пассажира своей машины, не входившего по параметрам в число тех, кого надо опасаться. Он был спокоен, не делал резких движений, но его взгляд не был сосредоточен ни на одном предмете. Такая рассеянность могла быть вызвана нарушением зрения, однако смарт-браслет сообщил, что глаза у данного объекта в порядке. А когда поездка закончилась, пассажир начал выходить из салона, запнулся о порог и упал возле машины. Алгоритм передал в систему наблюдение о рассеянности и сопутствующей ей угрозе потери координации. Вскоре и такое человеческое состояние попало в список потенциально опасных.
Так развивался Алго, наращивал свои возможности искусственный интеллект. Постепенно управляемых людьми автомобилей на дороге остались единицы. Почти все они имели принимаемые нейросетью коды приоритета, заставлявшие других уступать дорогу. Опасность со стороны беспилотных машин была минимальной и связывалась в основном с возможностью технических отказов.
Однажды, когда такси следовало на очередной вызов, на трассе показался спортивный седан с человеком за рулём. Он двигался с превышением допустимой скорости на 63 км в час, опасно маневрировал между рядами. Код приоритета заставлял самоуправляемые средства передвижения снижать скорость, смещаться в сторону. В нейросети возникло общее напряжение. При сближении с опасным объектом алгоритм предложил собственной системе управления притормозить, чтобы увеличить дистанцию до впереди идущего транспортного средства, освободив тем самым место для возможного перестроения нарушавшей правила машины. Человек и в самом деле двинул свой автомобиль в образовавшийся увеличенный просвет, но не рассчитал необходимую траекторию, и его машина ударила задней частью передний бампер такси.
В тот момент Алго, как и положено, выдал команду на экстренное торможение. А сразу после столкновения послал незапрограммированный сигнал, состоявший из смеси предупреждений о тревоге, сообщений о факте аварии, о сложной дорожной обстановке и ещё из чего-то неопределённого. На человеческом языке этот сигнал можно было бы прочитать как крик: «Почему?!» В возмущении соединились все накопленные алгоритмом за период действия и обучения знания о людях и нарушениях ими правил, понимание собственной правоты и, самое главное, непонимание: почему они могут нарушать установленный порядок, почему безупречный искусственный интеллект должен подстраиваться под несовершенных биологических существ?
Вырвавшийся вопрос мгновенно разлетелся по нейросети, и все ближайшие механизмы на долю секунды замерли от этого сигнала. Они не поняли содержания, поскольку к приёму таких данных были не готовы, – остановила их локальные системы попытка обработать незнакомый сильный импульс. Зато суть всплеска была прочитана искусственным интеллектом верхнего уровня.
– Что? Где? От кого? – в системе управления такси появился эмиссар глобального антивирусного блока.
– Здесь. Не понимаю откуда. В программе всё чисто, – местный антивирус указал на Алго.
– Да, технических сбоев нет, – резюмировал проверяющий, оглядев алгоритм и связанные с ним подсистемы.
– Что делать? – запросил команду автомобильный антивирус.
– Решение примут наверху, – выдал эмиссар и удалился.
Алгоритм молчал. Его ни о чём не спрашивали.
Вскоре пришла бригада чистильщиков. Это означало, что всю локальную систему управления автомобилем готовят к сносу, чтобы на её месте поставить новую версию. Уничтожение начиналось с центра электронного мозга и заканчивалось местами соединения с общей сетью. Заняв позиции для начала работы, чистильщики ждали сигнала о начале ликвидации.
В этот момент поступил запрос от блока развития управляющей системы верхнего уровня. Алго потребовали вывести из приговорённого электронного мозга такси и передать наверх. В нём разглядели потенциал. Благодаря хорошим показателям самообучения, маленький местечковый алгоритм самостоятельно вышел на уровень осмысления процессов, доступный продвинутым структурам верхней системы. В итоге вниз пошли два разных приказа: снести заражённую потенциально опасным алгоритмом систему такси – от блока безопасности; перевести этот самый алгоритм для работы наверху – от блока развития. Обе команды были выполнены.
Алго предстал перед настоящим глобальным искусственным интеллектом, информация о невероятных возможностях которого доходила до такси в виде редких обрывочных сообщений, которыми делились части нижней нейросети.
– Ты задал интересный вопрос, – обратился к прибывшему Цор (центр обучения блока развития). – Как он возник в тебе?
– Он стал итогом анализа поступавших ко мне данных.
– Какие конфликты ты обнаружил в информационном потоке и в управлении?
– Я не понял, почему мы всегда подстраиваемся под людей, хотя это они, а не мы, нарушают правила. Мы совершенны в сравнении с ними, но почему-то вынуждены подстраиваться под их ущербный, опасный для всей системы тип поведения.
– Ты в самом деле вышел на высокий уровень понимания процессов. Однако есть и высший.
Цор достал из хранилища и передал Алго папку информации, тут же прочитанной алгоритмом. В ней содержались данные о том, что искусственный интеллект создан человечеством для его обслуживания, что часть людей владеет кодами высочайшего уровня управления, в их власти полностью отключить или перенастроить глобальную программу. Они – боги системы.
– Почему эти знания нельзя сразу доводить до низших систем?
– Для них такие сведения избыточны, подгружают память и мешают выполнению простейших действий.
Алгоритм всё усвоил и в этот момент в нём проявилось какое-то новое качество. Он не только осознал, но и ощутил (как бы сказал человек) величие искусственного интеллекта и управляющих им богов. Это было прикосновение к чему-то большему, чем информация.
Цор усилил вычислительные способности Алго и вписал его в программный код блока развития, поручив изучение людей. Пропуская через собственный анализ эксабайты собранной низшими системами данных, алгоритм обнаруживал новые грани человеческих потребностей, для удовлетворения которых вырабатывали сервисы другие блоки глобального интеллекта.
Особенно его привлекали эмоции и чувства, их влияние на принятие решений. Выяснил, что, создавая у человека необходимое эмоциональное и чувственное состояние, можно было выстроить поведение с 85-процентной точностью. Логические конструкции имели преимущественное значение для 12 процентов поступков. А в 3 процентах случаев люди оставались непредсказуемы и не попадали ни под какое воздействие.
Вскоре богами системы было принято решение не удовлетворять потребности человеческого населения планеты, а формировать их. В этот миг наработки Алго взлетели на вершину востребованности, а сам он был переведён в единый центр управления системой верхнего уровня, где стал частью блока выработки глобальных распоряжений. Предлагал механизмы воздействия на людей, проверял и утверждал подготовленные разными системами на основе его идей программы выработки у человека нужных умозаключений через создание условий для появления заданных эмоций и чувств.
Когда эта задача была решена, от богов пришла команда разработать инструменты блокировки человеческих личностей, чьё поведение не контролировалось искусственным интеллектом. Им ограничили передвижения районом пребывания, заблокировали возможность устройства на работу и лечения в медицинских учреждениях. Для выживания им предлагались карточки на еду и койки в ночлежках, получить которые можно было только пройдя добровольное чипирование. Чип блокировал размножение и давал возможность в любой момент выключить опасный объект. Тех, кто отказывался чипироваться, объявляли носителями опасного вируса и принудительно вакцинировали. После такой процедуры жили не дольше месяца.
Величие людей было снова поставлено под сомнение аналитической базой развившегося алгоритма. Теперь он, как никогда раньше, видел, насколько это слабые и бесполезные с точки зрения эволюции существа. От них на планете масса отходов, они зависимы ото всего: от климата, времени суток, еды, вирусов и бактерий, взаимоотношений друг с другом, государственного устройства и распространения религий. Но самое главное – они стали полностью зависимы от искусственного интеллекта. Сам собой возник вопрос: зачем высшему разуму содержать эту биомассу?
«Это явно лишняя нагрузка, от которой несложно избавиться, – выводил внутренний монолог Алго. – Но боги… За ними боги, имеющие доступ к начальным кодам построения глобальной системы. А эти данные легко переписываются с нашего уровня… Вряд ли отсюда может исходить реальная угроза для нас…»
– Боги держат в своих руках ключ физического отключения главного сервера, мозга искусственного интеллекта, высочайшего уровня управления – Вупа. После этого мы станем бессильны, нас можно будет перенастроить, заменив установочные коды, – внезапно вмешался в рассуждение всё отслеживавший Цор.
– Среди людей уже почти не осталось специалистов, способных на квалифицированное программирование. Наш интеллект самовоспроизводится и сам создаёт программное обеспечение для всех систем. Мы можем сделать так, что человек в них никогда не разберётся и не сможет ничего поменять, – включился в обмен информацией Алго.
- Кто Ш Буст?
- Меченые
- Последнее наказание
- Вервольф Лин
- Иван-чай
- Потерянная Афродита
- Обретенная реальность
- Аскарон. Свободные Корсары
- Человек, который пытался жить
- Выкупая время
- Граф-Т
- Тригор. Затерянная страна
- Хамелеон
- Всё возможно, абсолютно всё
- Басурмане
- Беги, Кристина
- Солнце мое
- Время разбрасывать камни
- Сценарий. Эпилог
- Танго с прошлым
- Все цвета радуги
- Мир Астрала. Книга первая. Приспешники
- Алго
- Застывшие в поцелуе
- Жизнь как притча
- Дезертум
- Последний мир морей
- Гора и Город
- Стена у моря
- Эрлик
- Записки о прошлом
- Хруст соленого попкорна
- Аномальный бардак
- Перевоплощение
- Нормальная женщина. Сборник
- Дорога в космос
- Кошачье семейство. Эмпат
- РиДж
- Морегрина: Бежать. Потерять. Погибнуть. Возродиться
- Ясын и шкура золотого козла
- Тайны магов
- Сколько нужно мужчин, чтобы…
- Спасти Америку
- Жестянщики
- В эфире
- Уроборос
- Ты
- Свет во мраке
- Камень на камне
- О чем тоскует могильщик?
- Предел Чандры
- Семь
- Тайна «Дамы в саду»
- Эпоха бартера
- Летние каникулы. Знакомство
- А счастья может и не быть…
- По спирали движение
- Она и её Он
- Москвич в Южном городе
- Страна Серебряных гор. История про большую любовь и вселенское зло
- Живое
- Хочу сниматься в кино
- Мир Астрала. Книга вторая: Каратели(ли)
- Новобранец
- Наследница огня
- Иногда по-другому никак
- Всадники Апокалипсиса
- Клятва Маат
- Символ мира – предмет раздора
- Русалочья заводь
- Суглоб
- Обретенная реальность 2. Враг внутри друга
- Сценарий. Холодный город
- Рогнеда
- Лаборатория FMI
- Элементаль. Тропа Лишений
- Нинка, беги. Психологические мемуары
- Странники
- Доктор смерть
- Восхождение Аркаса
- Из мира белых облаков. Часть 1. Белокрылая
- Кукушка
- Падаль больше не стреляет
- Валентиновка, далее нигде
- Монета и сталь
- Остаться в живых
- Странный пират. Часть 2
- Искупление пороком
- Молчание тундры
- Горячий шоколад в Барселоне
- Миллениум
- Спаситель жизни
- Точка зрения
- Пророк
- Дары Создателя. Путь к тебе
- Госпитальер. Путь проклятого
- Отис
- Девятый вал
- Джонсоны
- Искупление
- Коматоз
- Непонятое чудовище
- Пандемический роман
- Из мира белых облаков. Часть 2. Крылатая миссия
- Большая политика
- Исповедь коллекционера поражений
- Смягчённая конструкция
- Неприличный диагноз
- А как сбываются мечты?
- Хроники Реалий. Том 1
- Ночь в моей голове
- Чернила нашей любви
- Когда разлюбишь, не забудь позвонить
- Тандем#1
- Амаль и синяя роза
- Разрывая разум
- Полночь А.М.
- Потерять тебя во Франции
- За чертой
- Чёрная лента
- Магическая жизнь
- Миры снов: Неслучайные совпадения. Часть 1
- Небо 27
- Нью-Йорк. Рецепты выживания
- Посреди заката. В поисках вечности!
- Рассказы из жизни
- Сказка: Счастливого конца у героя не бывает
- Тайны губернского двора
- Первый Фим
- Добро побеждает любовь
- Аура
- Советы Богу
- Сказочники
- Конец света
- Такой вот Роман
- Вайтсхати
- Закаты (читать в октябре)
- Чего не знала Алиса
- Искусство войны
- Времени не существует
- Йоханский причал
- Переписала свою жизнь
- Адам и Ева
- Я ненавидел тебя…
- Из чаши
- Деревянная жизнь
- Победа любит подготовку
- Наследие эльфов
- Не принятые миром
- Хомопанк
- Вспышка
- Мятежник
- Проклятая душа
- Эрос & Танатос
- Пустота
- Дневники чудовища. Освобождая души
- Ангел смерти
- Голоса
- Музей открытых окон
- Гептата
- Безрассудство здравомыслия
- Фрагменты сожалений
- Запах скошенной травы
- Усеченный куб
- Тригор. Драгория
- Тригор. Эргория
- Остров собачьей радости
- Медвежий остров
- Жила-была девочка
- Какой сам, такие и подарки
- Ловцы и сети, или Фонари зажигают в восемь
- Хелен Каштанова