MENUMENU

О реальности угроз от искусственного интеллекта рассказали на семинаре «Диалог науки и религии»

25 мая 2018 года в Екатеринбургской духовной семинарии состоялось очередное заседание семинара «Диалог науки и религии». Тема очередной встречи, которую традиционно организовали миссионерский отдел Екатеринбургской епархии и Екатеринбургская духовная семинария, называлась «Искусственный интеллект: реальность угроз». Докладчиком выступил специалист в области информационных технологий Дмитрий Юрьевич Потоскуев. Дмитрий Юрьевич прошел курс «Машинное обучение» в университете Стенфорда, разработал и реализовал ряд проектов в области искусственного интеллекта: рекомендательные системы, распознавание, кластеризация, предсказание временных рядов.
Дмитрий Юрьевич начал доклад с объяснения мотивов своего интереса к распространению знаний об искусственном интеллекте. Интерес этот связан в частности с тем, что реальные угрозы со стороны искусственного разума остаются незамеченными, в то же время, популярность темы создает впечатление больших достижений в области искуственного интеллекта, вызывая инстинктивные, часто не обоснованные страхи.
Люди опасаются, что машинный интеллект, превосходящий человеческий, будет уничтожать людей. И если не уничтожать, то, по крайней мере, вытеснять людей с рынков труда и послужит основой создания новых видов оружия, считает докладчик. Но вот на появление новых, очень жестоких видов мошенничества с использованием искусственного интеллекта люди особого внимания не обращают.
По мнению выдающегося ученого Стивена Хокинга (1942-2018 гг.), «разработка полного искусственного интеллекта может привести к концу человеческой расы». «Полный» , или «сильный», искусственный интеллект — это интеллект, превосходящий разум любого человека, живущего на Земле. И здесь, считает Дмитрий Юрьевич, сразу же встает вопрос о том, что такое «интеллект», и какие именно человеческие качества необходимо превосходить, чтобы стать «сильным»? Разумеется, в шахматы и покер он должен выигрывать у любого человека. Разработки и обсчет экономических и технических проектов он будет делать быстрее и качественнее человека. Но можно ли создать искусственный разум, который будет лучше человека писать оригинальную музыку, разрабатывать фигуры новых танцев и т.п.? На это нет и не может быть ответа, поскольку интеллект человека — это не только способность вычислять по заданным алгоритмам, но еще и то, что называют «вкладывать душу» в свое дело.
Как отметил Дмитрий Потоскуев, «на текущий момент мы не обладаем достаточными знаниями о механизмах человеческого разума, чтобы судить о том, является ли какой-либо алгоритм их «аналогом»».
На семинаре Дмитрий Юрьевич рассказал, что существует два основных подхода к созданию сильного искусственного интеллекта: обратная инженерия мозга и синтетический подход. «Обратная инженерия мозга» заключается в компьютерном моделировании нервной системы живых организмов. Однако, хотя работы ведутся с начала 90-х годов, разработчики до сих пор не преуспели в моделировании поведения даже микроскопического существа — нематоды, нервная система которой имеет 200 нейронов и примерно 5000 синапсов. Так что ждать появления человекоподобного интеллекта путем обратной инженерии пока не приходится.
Синтетический подход основан на изучении и создании все более совершенных конечных автоматов, состоящих из бинарных элементов, т. е. элементов, которые могут находиться в двух возможных состояниях. Однако возможности таких автоматов, как доказано математически, весьма ограничены.
Так, английский физик и математик Роджер Пенроуз доказал, что «какой бы мощностью ни обладало устройство, имеющее архитектуру конечного автомата, человеческое мышление имеет некоторые возможности, недоступные такому устройству».
Высказав эти соображения, Дмитрий Юрьевич делает вывод: «Создание сильного ИИ откладывается, как минимум, до создания компьютеров принципиально иной природы. Причем, само по себе их создание не гарантирует того же в отношении сильного искусственного интеллекта».
Также докладчик отметил, что не стоит особо беспокоится и относительно вытеснения человека машинами с рынка труда, поскольку уже существующий «слабый» искусственный разум способен лишь к распознаванию, предсказаниям в рамках заданного человеком алгоритма и подражанию. Конечно, весьма неприятны и опасны роботизированные виды вооружения: танки, пропускные устройства и т.п., поскольку логика их поведения слишком примитивна. Но здесь остается уповать на разум человека: военного командования, глав государств и прочих.
Но что сейчас действительно представляет опасность — это новые виды мошенничества. С помощью икусственносозданного интеллекта легко подделывать картины, выдавая за подлинники шедевров любую мазню, музыкальные произведения, голоса людей. «Представьте, — обратился докладчик к слушателям семинара, — что вам звонят и голосом очень близкого Вам человека просят о помощи! Такое уже сейчас, к сожалению, возможно. Вот такие мошеннические подделки и есть в настоящее время весьма серьезная опасность».
По словам организаторов, участники семинара поблагодарили Дмитрия Юрьевича за содержательный и яркий доклад. К сожалению, на заседании не было представителей духовенства, отметили в миссионерском отделе Екатеринбургской епархии, и поэтому связать искусственный интеллект с православным богословием удалось не в полной мере. Однако, Дмитрий Юрьевич пообещал сделать еще один доклад на семинаре в будущем учебном году и рассказать о направлении искусственного интеллекта по «улучшению человека», соединению мозга с компьютером, использованию виртуальных пространств для облегчения жизни человека, для его отдыха и развлечений.