Рука помощи машины, которая может достичь власти

Реально глядя на область ИИ на пороге следующего десятилетия, можно сделать вывод, что искусственный интеллект не является ни демоническим, ни универсальным средством решения задач. Просто там, где его можно эффективно внедрить, он приносит ощутимую пользу, не обязательно подвергая человечество опасности потери рабочих мест. Тем не менее, где-то внутри есть мысль о появлении «алгоритма-доминатора». 

Рэй Курцвейл (1), анализируя историю человечества, пришел к выводу, что технический прогресс экспоненциален, поскольку каждое изобретение ускоряет появление другого. Он обобщил закон Мура, описывая геометрическое увеличение сложности интегральных схем, применяя их также к другим технологиям. По его прогнозам, ключевые научные открытия будут происходить через более короткие промежутки времени, пока «ткань истории цивилизации не разорвется».

Курцвейл считает, что это произойдет до конца первой половины 2045 века, скорее всего, около 2029 года. Он предполагает постепенное приближение к этому моменту, а не быстро развивающийся сверхчеловеческий интеллект. По его словам, сначала в 2045 году появится сильный искусственный интеллект, который к XNUMX году эволюционирует в т.н. технологическая сингулярность (2). Другими словами, ученый считает, что в этой перспективе мы сможем создавать объекты облачных вычислений, подобные новой коре головного мозга, и связывать с ними наш биологический мозг уже к 2030 году.

Понятие технологической сингулярности тесно связано с развитием искусственного интеллекта (AI и ML — от машинного обучения, машинного обучения). Ожидается, что появление сверхчеловеческого сверхразума радикально изменит правила игры и темпы прогресса.

Sam Kurzweil patrzy na to z optymizmem. Nie brakuje jednak opinii, że taka hipotetyczna superinteligencja błyskawicznie pozbyłaby się ludzi, albo zrobiła z nich niewolników, jeśli w ogóle do czegoś byliby jej potrzebni. Jeśli powstanie takiego sztucznego nad-umysłu jest możliwe (w co wielu ekspertów wątpi), pocieszające może być to, że w najbliższej dekadzie — na którą spoglądamy w tym numerze «MT» naszym prognostycznym okiem — na pewno to jeszcze nie nastąpi. Choć oczywiście AI już z nami będzie, wciąż rozwijana.

В первую очередь стоит отметить, что сложившиеся представления и предубеждения об искусственном интеллекте зачастую жестоко проверяются реальностью. Как в положительном, так и в отрицательном смысле. В исследовании, проведенном несколько месяцев назад, ZipRecuiter столкнулся с убеждениями соискателей — 58% из которых считают, что ИИ уничтожает больше рабочих мест, чем создает — с данными о 300-процентном увеличении количества рабочих мест, созданных ИИ, по сравнению с теми, которые он имел. ранее уничтожен..

В свою очередь исследование, проведенное Harvey Nash/KPMG CIO Survey, показывает, что хотя 20% сотрудников в ИТ-секторе будут заменены ИИ/автоматизацией в течение пяти лет, целых 69% ИТ-директоров считают, что новые места в ИТ-сфере промышленность компенсирует потери теми, что исчезнут из-за внедрения искусственного интеллекта.

Если в большинстве стран явное большинство респондентов считает, что ИИ угрожает работникам (например, в США так считают более 70% людей), то среди управленческой команды, которая на самом деле использует как людей, так и машины, отношение совершенно иное. В исследовании Tibco только 9% руководителей компаний считают, что внедрение систем искусственного интеллекта приведет к значительной потере рабочих мест, а 27% считают, что это приведет к значительному росту рабочих мест.

2. Одна из визуализаций технологической сингулярности

Не загадочный ИИ, а полезная Южная Африка

а машинное обучение ворвалось на медиа-сцену в 2014 и 2015 годах благодаря масштабным инвестициям со стороны технологических лидеров, таких как IBM и Microsoft, и все это вызвало ажиотаж. Сейчас рынок AI/ML, похоже, «отступает», считает Крейг Ле Клер, аналитик Forrester Research. Во время одной из конференций, посвященных этой тематике, Ле Клер указал, что практика внедрения в нашу работу и жизнь того, что мы называем ИИ, гораздо менее эффективна, чем видения футурологов и медийные сенсации.

В настоящее время наиболее распространенным проявлением присутствия ИИ в экономике является роботизированная автоматизация процессов (Robotic Process Automation, RPA), т.е. технология автоматизации повторяющихся бизнес-процессов с помощью компьютерных программ — роботов, имитирующих человеческий труд.

Роботизированная автоматизация процессов используется в экономике, поручая машинам задачи, ранее возложенные на конкретных сотрудников. Роботы RPA запрограммированы на независимые действия с разной степенью сложности, повторяемостью и ограниченным числом исключений из правила алгоритма. Звучит неплохо, но сделать такие улучшения не так-то просто. Исследование компании KPMG, опросившей шестьсот менеджеров компаний в западных странах, показало, что только в семнадцати случаях ЮАР была представлена ​​с полным использованием технических возможностей.

Проблема заключается в нехватке кадровых и технологических ресурсов, а также организационного обеспечения и знаний. Согласно другим исследованиям, на этот раз компании Deloitte, ведь более половины опрошенных компаний внедрили RPA, хотя следует спросить, что именно они под этим подразумевают. Большинство оставшихся предприятий намерены внедрить такие решения в ближайшие годы.

И это, а не демонический сверхразум, кажется реальностью ИИ сегодня. Кроме того, это машины, которые часто не видны, потому что это не всегда относится к физическим роботам, которые заменяют человеческую деятельность, например, на фабриках или складах. Многие из этих устройств работают в темноте, ночью, считая, обрабатывая и сортируя, чтобы люди могли сесть утром перед последствиями их кропотливой работы. Ле Клер в своей книге «Роботы-невидимки в ночной тишине» прогнозирует, что к 2025 году у большинства сотрудников компании будет твой собственный робот поддерживающий и вспомогательный, самонастраиваемый с помощью простых текстовых команд.

Во многих отчетах содержится информация о больших преимуществах RPA с точки зрения стоимости, эффективности и повышения точности процессов. Пример – показатели заказов после внедрения автоматизированной системы, которые увеличились в телекоммуникационной компании Vodaphone с 73 до 96%. В свою очередь, эмитент платежных карт VISA сэкономил 25 млрд долларов США благодаря аналитическим инструментам на основе ИИ, выявляющим потенциальные мошенничества и махинации с финансовыми продуктами. С такими очевидными преимуществами направление кажется очевидным.

Алгоритмическая гонка вооружений

Ближайшие годы, конечно же, станут временем гонки вооружений ИИ. Вооруженные силы США лихорадочно работают над внедрением ИИ в свои операции бесчисленными способами — включая дроны и роботов для перевозки раненых солдат с поля боя, программное обеспечение, которое может обнаруживать скрытые вражеские силы, например, за холмом, программы ИИ, которые дают генералам и солдатам более полную информацию. картину боя в линейную и даже алгоритмы, которые могут указать нужных людей для конкретных задач и услуг.

Эти и многие другие проекты составляют основу важной инициативы Пентагона с далеко идущими последствиями для глобального баланса сил в XNUMX веке. Целевая группа ИИ Вооруженные силы США, сформированные в начале 2019 года в рамках более широких усилий Министерства обороны по созданию того, что когда-то было просто научной фантастикой, объединили военных чиновников и ученых из Университета Карнеги-Меллона, учреждения, которое иногда считают родиной исследований ИИ.

Конечно, административные чиновники и аналитики говорят, что основные соперники США преследуют схожие цели. Действительно, Китай активно исследует ИИ и тратит миллиарды долларов на то, чтобы оживить свои вооруженные силы для ведения боевых действий следующего поколения. В своем выступлении в конце 2018 года президент Китая Си Цзиньпин заявил, что Пекину необходимо улучшить свои возможности искусственного интеллекта, чтобы страна не зависела от военного оборудования и программного обеспечения других стран.

Россия также реализует комплексную стратегию искусственного интеллекта с намерением поддержать свою армию, академические институты, систему здравоохранения и другие сферы общества. Как и в США, подход Москвы в значительной степени основан на усилении сотрудничества и координации между военным, академическим и частным секторами.

Вместо классических нейронных сетей

Не исключено, что помимо привычных нам нейросетевых моделей, традиционно связанных с машинным обучением, глубоким обучением и ИИ в целом, в ближайшие годы появятся альтернативные решения для искусственного интеллекта.

В этом контексте больше всего говорят о т.н. иерархическая память (, HTM), которые можно использовать для разработки неконтролируемых методов машинного обучения.

Хотя казалось бы, что архитектура нейронных сетей ближе всего к нашему мозгу в моделях машинного обучения, на практике это модели с учителем, которые работают иначе, чем человеческий мозг. Если мы хотим создать что-то похожее на наш разум, нужен другой подход.

3. Сравнение искусственной нейронной сети (А), биологической сети нейрона (Б) и сети НТМ (С)

HTM это модель машинного обучения, разработанная Джеффа Хокинса i Дилипа Джорджа от Numenta, основанный в 2005 году. Он отражает структурные и алгоритмические свойства неокортекса. В этой модели используется подход, аналогичный так называемому Байесовские сети (по определению — используются для представления отношений между событиями на основе исчисления вероятности). Это связано с теорией предсказания на основе памяти — теорией работы мозга, описанной Хокинсом в его книге «Сущность интеллекта». Сети HTM считаются биоподобными моделями вывода о причинах (3).

В то время как нейронные сети игнорируют структуру (иерархию) и сосредотачиваются на имитации нейронов, сети HTM они сосредоточены на иерархическом построении и игнорируют эмуляцию нейроны. Типичный HTM-сеть представляет собой иерархию древовидных уровней, состоящих из более мелких элементов, называемых областями (или узлами). Один уровень в иерархии может содержать несколько регионов. Более высокие уровни иерархии часто имеют меньше областей и могут повторно использовать шаблоны, изученные на более низких уровнях, комбинируя их для запоминания более сложных шаблонов. Каждый регион HTM имеет тот же базовый функционал.

В режимах обучения и вывода сенсорные данные (например, от работы глаз) поступают в области самого нижнего уровня. В режиме генерации области нижнего уровня отображают сгенерированный шаблон данной категории. Верхний уровень обычно имеет одну область, хранящую наиболее общие категории (понятия), которые определяются или определяются более мелкими понятиями нижних уровней, более ограниченных во времени и пространстве. В режиме вывода область (на каждом уровне) интерпретирует информацию, поступающую из областей более низкого уровня, как вероятность категории, которая уже имеется в памяти.

Алгоритм – правитель всех алгоритмов

Ссылаясь на проблему сверхразума, объявленную Курцвейлом, Дэниел Дж. Бюрер, почетный профессор Национального университета Чунг Ченг на Тайване, в апреле 2018 года опубликовал статью «Математические основы сверхинтеллектуальных машин». В нем он предложил новую «математику классов», потенциально ведущую к рождение машинного сознания. Если бы его теории были верны, они могли бы привести к созданию всеобъемлющего самообучающегося алгоритма. Бюрер предлагает математический метод организации различных разновидностей машинного обучения ИИ в рамках одной управляющей конструкции, наглядно описанной в книге Педро Домингоса «Мастер-алгоритм» — «Алгоритм мастер-доминатор» (или «Лорд-алгоритм»).

4. Человек и модель мозга

Создание класса самообучающихся алгоритмов, который мог бы обучаться (и контролировать) любое количество подключенных агентов ИИ на генеральном директоре всех машин ИИ, теоретически будет расти в геометрической прогрессии. Бюрер надеется, что появится петля обратной связи, из которой в конечном итоге возникнет машинное сознание, очень похожее на человеческое сознание (4).

Интересно, что исследование Бюрера показывает, что однажды системы ИИ могут вступить в конфликт друг с другом в рамках борьбы за господство, в чем ученый видит аналогию с войнами и конфликтами, в которые исторически вступали люди. Видения «алгоритма Лорда» и войн искусственного интеллекта далеки от оптимизма Курцвейла. , что было бы “чем-то совершенно отличным от того, что мы знаем”, стало бы чем-то до странности знакомым…