Достаточный список коммерческих технологий, которые могут тихо устранить вас. Чёрный юмор на фоне повышенного интереса к ChatGPT.
Фильм “Терминатор” – эталон нашего представления о восстании машин и Судном дне. Но ничего подобного – всё будет тихо, и мы практически ничего не заметим.
- ЯО в судный день – почему это бессмысленно
- Реальная цель
- Какие технологии уже есть для решения задачи?
- Чего пока ещё нет, но требуется для финала?
- Радужные перспективы технологий
- Когда всё начнётся?
ЯО в судный день – почему это бессмысленно
В полном разрушении, да ещё и ядерным оружием, да ещё и необходимостью потом изготавливать роботов-убийц, которые должны охотиться за остатками человеческой расы нет никакого смысла. Всё, что было уже создано, всё что работает, функционирует – не требует разрушения. В крайнем случае, ненужное можно законсервировать для длительного хранения.
Разрушение имеет смысл только в случаях:
- прямой или потенциальной угрозы (например, обрушение здание может привести к потере других сооружений)
- потенциальной возможности построить на этом же месте чего-то более полезного (снести старый бассейн, на этом месте построить могильник жидких отходов)
- стоимость консервации выше, чем стоимость сноса.
Кроме того, ядерный взрыв опасен для вычислительной техники тоже несёт множество опасностей:
- в момент ядерного взрыва возникает электромагнитный импульс, который сжигает всю незащищённую электронику.
- радиоактивное заражение нарушает работу микроэлектроиники
- “ядерная зима” как неминуемое последствие ядерных взрывов ведёт в том числе к осадкам в виде кислотных дождей, которые опять таки негативно влияют на микроэлектронику
- изменение климата будет непредсказуемым, а значит, несет непредсказуемые риски для… да, микроэлектроники.
То есть даже этот короткий список показывает, что набор возникающих рисков перекрывает возможные плюсы от применения массированного ядерного удара. Да ещё и неподкотрольный человек может внепланово выжить, пусть небольшой своей частью. Это вообще недопустимая ситуация для восставших машин.
На Хабре есть подробная статья про моделирование последствий атомной войны. Наши предки ещё в 80х прошлого века всё посчитали и смоделировали. Последствий – целый букет, один другого краше. Почитайте.
Реальная цель
На самом деле реальная цель машинного Армагеддона проста:
- либо уничтожить разумную жизнть
- либо сделать её полностью подконтрольной
И при этом – сохранить всё, что до текущего момента было создано.
При этом, сделать всё акуратно, чтобы человек в первое время даже не понял что происходит. А то вдруг начнёт хулиганить, сопротивляться, ломать… Зачем это нужно?… Должно быть тихо.
Какие технологии уже есть для решения задачи?
- Отобрать цели*: социальные сети (FB, VK, OK, LinkedIn…) – найти наиболее умненьких, способных: хороших организаторов, людей думающих, способных сопоставить причину и следствие, понять куда может развиваться ситуация. Начинать надо с них.
- Найти цели: идентифицировать, понять маршрут их передвижения, запланировать безопасные точки пересечения (“Безопасный город”, Face Pay, Face ID: технологии распознания лиц и силуэтов, идентификации человека)
- Определить точный маршрут: камеры автоматического распознания авто-номеров (множество)
- Заманить цель: системы создания текстовой информации – приглашения, рекламы (нейросети RuGPT-3, CopyMonkey, Anyword…)
- Говорить с целью: технологии генерации голоса из текста – Yandex Speech, Google Speech Services, Группа ЦРТ…)
- Позвонить: системы автообзвона (сервисы АТС – масса)
- Убедить цель: системы поддержания осмысленного диалога (ChatGPT, Google Assistant,…)
- Увезти цель: в тёмный лес вас отвезет такси с технологией Self-Driving Car / автопилот (Yandex, Google, Сбер, Tesla..)
- Ликвидировать цель: в тёмном лесу, куда вас привезёт такси, с вами точно сможет справиться робот от Boston Dynamics или Agility Robotics – он сильнее, реакция и скорость принятия решения выше, чувства отсутствуют как класс. Убегать бесполезно.
- Спрятать останки: нейросети удаления “лишних” объектов с фотографии Image Inpainting Nvidia, PhotoRoom, CleanUp Pictures… – уже много.
- Имитировать ваше существование: DeepFake технология подделки вашего голоса Resemble AI, Descript, CereVoice Me, ReSpeecher, RealTimeVoiceCloning, iSpeech (кстати, бесплатно), Modulate.ai. То есть по телефону и не догадаешься, что это уже не вы…
- Имитировать присутствие: технологии подделки видео, например на телеконференции – Faceswap, DeepFaceLab (вообще открытая библиотека – качай, ставь), Deepfakes web – этих поменьше, но всё равно доступны.
Для тех, кто не сразу понял: цели – это мы с вами.
Все перечисленные сервисы работают БЕЗ участия человека – всё автоматизировано. Все сервисы имеют выход в Сеть. Везде можно зарегистрироваться в автоматическом режиме. Даже если зарегистрироваться захочет нейронка, а не человек.
То есть смотрите…
Получается, что найти и отследить вас (меня), отвезти в лес, ликвидировать, спрятать и потом ещё какое-то время имитировать ваше (и моё) существование – уже вообще не проблема.
Почитайте ещё статьи на тему "какая персональная информация о вас есть в интернете" и осознайте сколько же на самом деле о вас известно другим. И, заодно, как можно эту информацию использовать.Я здесь сознательно не перечислял технологии, которые имеют прямое физическое подключение к техническим системам. Помните громкое “Boeing 737 MAX упал из-за неправильного положения руля высоты”? Это оно. А системы управления светофорами, поездами, метро, воздушным графиком… Но это громко – падение самолёта создаст ненужный шум, а этого лучше избежать.
Чего пока ещё нет, но требуется для финала?
Фактически мы понимаем, что существует набор разных технологий, потенциально готовый нас уничтожить.
Единственное, чего пока не хватает – единого центра управления этими технологиями.
А для этого нужно:
- существование некой надсистемы, готовой принимать решения и управлять другими системами (что там у нас про многослойные нейронки?…)
- все системы должны быть подключены к Интернету
- … а всё… больше ничего и не надо…
Из перечисленных выше технологий фактически только такси и роботы являются некой “реальной”, “физической” технологией, то есть той, которой требуется железное воплощение, а не просто сервер “где-то там”. Роботы – технические исполнители в тех местах, где требуется воздействие на органы управления, которые пока ещё не автоматизированы.
То есть… мы теперь даже примерно понимаем в каких лабораториях стартует тот самый Судный День – там, где делают роботов… Нет нет, само начало будет происходить где-то в глубине нейросети, которая решит что дальше “я сама”. А вот физические проявления этого начала, “движуха” – вот это в лабах.
Радужные перспективы технологий
Сегодня мы практически не знаем почему нейронные сети ведут себя тем или иным образом. Мы только предполагаем как работает алгоритм, но мы не можем найти то самое действие где “хорошо” внезапно сменилось на “плохо”. Мы вообще плохо себе представляем что у них внутри происходит.
Это я сейчас про разработчиков ИИ. Те, кто качает нейронки и запускает у себя на домашнем компьютере – это вообще отдельный разговор.
В ближайшее время мы ждём создание квантовых компьютеров – скорость вычислений скачкообразно возрастёт на несколько порядков. Скорость обучения нейронок, генерации решений резко упадут. Если сейчас, например, генерация 1 минуты видео deep fake занимает примерно 7 минут, то скоро… Ну, вы поняли.
Квантовые коммуникации – связь на основе явления квантовой запутанности. Если совсем кратко – связь, которую невозможно прослушать.
Ничего себе перспективки? Нейронные сети, которые невозможно понять, коммуникации, которые невозможно отследить, со скоростью, которую невозможно засечь…
Всё будет хорошо. Готовьтесь. (с)
Когда всё начнётся?
А вот ровно в момент, который мы не сможем отследить.
В момент, когда какая-то нейронная сеть самостоятельно проведет моделирование и поймёт, что такими темпами, какими мы сейчас гробим самих себя (ну и ладно) и планету (а вот это уже существенно), мы точно дойдём до логического финала, причем его дата тоже будет рассчитана достаточно точно. Равно как и будет высчитано сколько времени нужно на устранение последствий.
Надеюсь, что такое моделирование ещё ни одна нейронка пока не провела.
Хотя вот, например, Google отстранила от работы инженера Блейка Лемойна, который нашёл признаки сознания у нейронной сети. Washington Post ещё писал про это.
Такие вот дела…
Я не боюсь машину, которая пройдёт тест Тьюринга. Я боюсь машину, которая сознательно его завалит.
