![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
lankasterskyПочитал тут один отчет про развитие искусственного интеллекта. Что интересно, статистика показывает, что чем больше внедряется робототехники, тем активнее развивается экономика и меньше безработных. Но простые люди не понимают этого и думают, что роботы только отнимают у них работу. Они не понимают, что с их приходом появляются новые профессии, а рутинный труд сторожей и водителей уходит в прошлое. Это еще раз говорит о том, что большинство не понимает, что хорошо для развития страны, а что нет.
Более того, скоро почти никто не будет этого понимать.
Сейчас одна из проблем ИИ в том, что мы не понимаем, на основе чего он принимает то или иное решение. Для нас это черный ящик. Но очень точный ящик, точнее, чем наши формулы и эвристики. И мы его наделяем все большими полномочиями, в том числе, в логистике и управлении. Управлять огромной страной эффективно очень сложно (что показано на примере многих стран, у которых есть ресурсы, но они все равно в жопе), в том числе из-за человеческого фактора и ограниченных человеческих возможностей. Поэтому все больше ИИ будет использоваться в управлении. Но мы уже сейчас не понимаем как он принимает решения, и более того, эта пропасть в понимании будет только увеличиваться.
Пройдет некоторое время, и мы, возможно, будем воспринимать решения ИИ-правителя как божественные провидения. Скажет он, например: убейте всех коров. Как бог в библии (я не силен в библии, но идея понятна). Мы такие, ну ок, убили. А кто-то не послушался, и там коровий грип начался, и все население померло. А все потому что ИИ проанализировал динамику развития эпидемий и спрогнозировал новую вспышку.
У нас нет выхода: те, кто не захочет подчиняться ИИ, просто помрет в очередной эпидемии. Что с этим делать?
Есть всякие техники. Например, дампить из ИИ промежуточные результаты, которые мы еще в состоянии понять. Или дебажить на небольших наборах данных. Или использовать ансамбль моделей, среди которых есть простые легко интерпретируемые. Но все равно это не дает 100%-го понимания. Мне больше нравится идея расширения возможностей мозга человека за счет прямого подключения к сети или переноса сознания в компьютер. Но как будет на самом деле, точно человек предсказать не в силах.
Более того, скоро почти никто не будет этого понимать.
Сейчас одна из проблем ИИ в том, что мы не понимаем, на основе чего он принимает то или иное решение. Для нас это черный ящик. Но очень точный ящик, точнее, чем наши формулы и эвристики. И мы его наделяем все большими полномочиями, в том числе, в логистике и управлении. Управлять огромной страной эффективно очень сложно (что показано на примере многих стран, у которых есть ресурсы, но они все равно в жопе), в том числе из-за человеческого фактора и ограниченных человеческих возможностей. Поэтому все больше ИИ будет использоваться в управлении. Но мы уже сейчас не понимаем как он принимает решения, и более того, эта пропасть в понимании будет только увеличиваться.
Пройдет некоторое время, и мы, возможно, будем воспринимать решения ИИ-правителя как божественные провидения. Скажет он, например: убейте всех коров. Как бог в библии (я не силен в библии, но идея понятна). Мы такие, ну ок, убили. А кто-то не послушался, и там коровий грип начался, и все население померло. А все потому что ИИ проанализировал динамику развития эпидемий и спрогнозировал новую вспышку.
У нас нет выхода: те, кто не захочет подчиняться ИИ, просто помрет в очередной эпидемии. Что с этим делать?
Есть всякие техники. Например, дампить из ИИ промежуточные результаты, которые мы еще в состоянии понять. Или дебажить на небольших наборах данных. Или использовать ансамбль моделей, среди которых есть простые легко интерпретируемые. Но все равно это не дает 100%-го понимания. Мне больше нравится идея расширения возможностей мозга человека за счет прямого подключения к сети или переноса сознания в компьютер. Но как будет на самом деле, точно человек предсказать не в силах.
