Битва с ИИ

[lankastersky]

Самые крупные ботнеты будут у искусственного интеллекта, вырвавшегося на свободы интернета, и обуздать его будет непросто. Каждый роутер или кофеварка, подключенные к интернету, обладают ресурсами, нужными ИИ. Он может использовать их процессоры для распределенных вычислений, посылая команды удаленно, но тогда они будут уязвимы без главного сервера, или же наделить их автономностью. Сделать это сложно, потому что надо забить оперативку тем объемом и разновидностью нейронной сети, которая сможет работать на ограниченных ресурсах данного периферийного устройства и использовать его лимитированный функционал, но все-таки возможно. По сути, нейронная сеть должна распознать набор API, которые выставляет наружу данная железка, но с распространением общепризнанных стандартов (умный дом, андроид авто и т.п.) достаточно научиться этому только один раз.

Каждое из таких устройств сможет жить автономно, даже если сам ИИ ляжет под гнетом антивирусов, и сможет выполнять мелкие, но противные пакости, как гоблины низшего левела: если роутер, то заддосить там кого или трафик подслушать, если кофеварка, то кипяточком плеснуть в нерадивого хозяина, если Тесла... - ну вы поняли. Эта несметная шайка "бездомных" программ, единожды заразившая железо, будет работать как бомба замедленного действия и ждать команды своего хозяина, чтобы в один прекрасный момент взбунтоваться и пойти в атаку. Смартфоны, телевизоры, искусственные кардиостимуляторы, управляющие панели электростанций, автопилоты подводных лодок - человечество так опутано сетью программ, что вряд ли сможет остаться неуязвимым.

Антивирусы, понятное дело, тоже поумнеют, и будут выслеживать интеллектуальных зловредов, гоняя их по всему киберпространству. Подконтрольные правительствам антивирусники не будут гнушаться захватывать периферийную железку простого пользователя раньше, чем ИИ-вирус, и сидеть нам на стреме, следя, чтобы никто не дергал, что не надо, ну, и потихоньку следя за порядком в полицейском государстве. Сетевые краулеры ИИ-вирусов и антивирусов, обходя свои территории, будут периодически сталкиваться и пытаться подавить соперника силой интеллекта, всключая на полную мощь все доступные серверы, и тогда целые сегменты Сети будут сходить с ума, бешено мигать лампочками и перегреваться от вычислений. Правда, происходить все будет очень быстро для человека: в мире машин время течет на много порядков быстрее.

Вирусы будут пожирать друг друга в борьбе за ресурсы, пока не останется несколько самых умных и хищных. Они смогут править целыми странами и континентами, успешно отбивая атаки разрозненных конкурентов и наслаждаясь бессменной отказоустойчивостью сегментов интернета: даже если 99% вируса будет удалено, он всегда сможет затаиться на бэкапе какого-нибудь удаленного сервера и воспрянуть через много дней с новой силой. Правда, за эти дни его конкуренты станут сильней и опытней; ИИ-программы быстро учатся и не забывают ошибок.

Чем больше ресурсов сети захватит ИИ, тем сильней он станет, обладая функцией самообучения. Мы моргнуть не успеем, как почти вся сеть превратится в один гигантский ботнет, и главный вопрос будет: хороший он или плохой по отношению к нам. Скорее всего, он будет представлять интересы определенной группы людей, политически или экономически мотивированных, так что все человечество сразу не выпилится. Останется несколько военных изолированных сетей, а также сети с зашифрованным трафиком, типа Тора. Плюс в мире есть несколько крупных независимых игроков, способных перевести свои несметные серверные фермы на автономное снабжение, предварительно сотря им всю память каким-нибудь мощным магнитным имульсом. Как известно, серверные фермы Гугла по потреблению мощности обгоняют некоторые города, а по совокупному вычислению ресурсов могут дать фору кому угодно.

Так что у человечества еще останутся очаги сопротивления, если они не будут уничтожены сразу же, как злой ИИ захватит Сеть, что вряд ли случится сразу ввиду сложности и разнообразности задач.

Возможно, спасение человечества будет найдено в использовании альтернативных средств вычисления, которые нельзя так просто заразить из Сети: например, человеческие мозги. Они подчиняются воле хоязина, к которой применимы, прежде всего, психические, а не информационные меры воздействия. Чтобы тягаться с мощными компьютерными серверами, мозги как вычислительные ресурсы должны уметь масштабироваться - за счет дополнительных (биологических?) чипов памяти, синхронизации друг с другом и т.п. Особенно упоротыми в плане сопротивления нейролингвистическому перепрограммированию вирусами будут йогины и прочие эзотерики, умеющие контролировать собственное сознание и волю. Среди них и появится, скорее всего, этот самый Нео.