По благословению
митрополита Екатеринбургского
и Верхотурского Кирилла
1 июня 17:27
О реальности угроз от искусственного интеллекта рассказали на семинаре "Диалог науки и религии"

 

25 мая 2018 года в Екатеринбургской духовной семинарии состоялось очередное заседание семинара «Диалог науки и религии».

Тема очередной встречи, которую традиционно организовали миссионерский отдел Екатеринбургской епархии и Екатеринбургская духовная семинария, называлась «Искусственный интеллект: реальность угроз». Докладчиком выступил специалист в области информационных технологий Дмитрий Юрьевич Потоскуев. Дмитрий Юрьевич прошел курс «Машинное обучение» в университете Стенфорда, разработал и реализовал ряд проектов в области искусственного интеллекта: рекомендательные системы, распознавание, кластеризация, предсказание временных рядов.

Дмитрий Юрьевич начал доклад с объяснения мотивов своего интереса к распространению знаний об искусственном интеллекте. Интерес этот связан в частности с тем, что реальные угрозы со стороны искусственного разума остаются незамеченными, в то же время, популярность темы создает впечатление больших достижений в области искуственного интеллекта, вызывая инстинктивные, часто не обоснованные страхи.

Люди опасаются, что машинный интеллект, превосходящий человеческий, будет уничтожать людей. И если не уничтожать, то, по крайней мере, вытеснять людей с рынков труда и послужит основой создания новых видов оружия, считает докладчик. Но вот на появление новых, очень жестоких видов мошенничества с использованием искусственного интеллекта люди особого внимания не обращают.

По мнению выдающегося ученого Стивена Хокинга (1942-2018 гг.), «разработка полного искусственного интеллекта может привести к концу человеческой расы». «Полный» , или «сильный», искусственный интеллект - это интеллект, превосходящий разум любого человека, живущего на Земле. И здесь, считает Дмитрий Юрьевич, сразу же встает вопрос о том, что такое «интеллект», и какие именно человеческие качества необходимо превосходить, чтобы стать «сильным»? Разумеется, в шахматы и покер он должен выигрывать у любого человека. Разработки и обсчет экономических и технических проектов он будет делать быстрее и качественнее человека. Но можно ли создать искусственный разум, который будет лучше человека писать оригинальную музыку, разрабатывать фигуры новых танцев и т.п.? На это нет и не может быть ответа, поскольку интеллект человека - это не только способность вычислять по заданным алгоритмам, но еще и то, что называют «вкладывать душу» в свое дело.

Как отметил Дмитрий Потоскуев, «на текущий момент мы не обладаем достаточными знаниями о механизмах человеческого разума, чтобы судить о том, является ли какой-либо алгоритм их «аналогом»».

На семинаре Дмитрий Юрьевич рассказал, что существует два основных подхода к созданию сильного искусственного интеллекта: обратная инженерия мозга и синтетический подход. «Обратная инженерия мозга» заключается в компьютерном моделировании нервной системы живых организмов. Однако, хотя работы ведутся с начала 90-х годов, разработчики до сих пор не преуспели в моделировании поведения даже микроскопического существа - нематоды, нервная система которой имеет 200 нейронов и примерно 5000 синапсов. Так что ждать появления человекоподобного интеллекта путем обратной инженерии пока не приходится.

Синтетический подход основан на изучении и создании все более совершенных конечных автоматов, состоящих из бинарных элементов, т. е. элементов, которые могут находиться в двух возможных состояниях. Однако возможности таких автоматов, как доказано математически, весьма ограничены.

Так, английский физик и математик Роджер Пенроуз доказал, что «какой бы мощностью ни обладало устройство, имеющее архитектуру конечного автомата, человеческое мышление имеет некоторые возможности, недоступные такому устройству».

Высказав эти соображения,  Дмитрий Юрьевич делает вывод: «Создание сильного ИИ откладывается, как минимум, до создания компьютеров принципиально иной природы. Причем, само по себе их создание не гарантирует того же в отношении сильного искусственного интеллекта».

Также докладчик отметил, что не стоит особо беспокоится и относительно вытеснения человека машинами с рынка труда, поскольку уже существующий «слабый» искусственный разум способен лишь к распознаванию, предсказаниям в рамках заданного человеком алгоритма и подражанию. Конечно, весьма неприятны и опасны роботизированные виды вооружения: танки, пропускные устройства и т.п., поскольку логика их поведения слишком примитивна. Но здесь остается уповать на разум человека: военного командования, глав государств и прочих.

Но что сейчас действительно представляет опасность - это новые виды мошенничества. С помощью икусственносозданного интеллекта легко подделывать картины, выдавая за подлинники шедевров любую мазню, музыкальные произведения, голоса людей. «Представьте, - обратился докладчик к слушателям семинара, - что вам звонят и голосом очень близкого Вам человека просят о помощи! Такое уже сейчас, к сожалению, возможно. Вот такие мошеннические подделки и есть в настоящее время весьма серьезная опасность».

По словам организаторов, участники семинара поблагодарили Дмитрия Юрьевича за содержательный и яркий доклад. К сожалению, на заседании не было представителей духовенства, отметили в миссионерском отделе Екатеринбургской епархии, и поэтому связать искусственный интеллект с православным богословием удалось не в полной мере. Однако, Дмитрий Юрьевич пообещал сделать еще один доклад на семинаре в будущем учебном году и рассказать о направлении искусственного интеллекта по «улучшению человека», соединению мозга с компьютером, использованию виртуальных пространств для облегчения жизни человека, для его отдыха и развлечений.  

 

Смотрите также:

О конце «века науки» рассказали в Екатеринбургской семинарии на встрече «Диалог науки и религии»

О возрасте Туринской плащаницы и методах датировок находок рассказал игумен Моисей (Пилатс) на семинаре «Диалог науки и религии»

О причинах возникновения неоязыческих сект и их популярности шел разговор на семинаре «Диалог науки и религии»

В поиске языка общения богословов и ученых прошел семинар «Диалог науки и религии»

О материальных доказательствах библейских событий шла речь на семинаре «Диалог науки и религии»

«Музыку генов» услышали участники семинара «Диалог науки и религии»

В Екатеринбургской духовной семинарии состоялся первый в новом учебном году семинар «Диалог науки и религии»

В сентябре начинает свою работу традиционный семинар «Диалог науки и религии»

Семинар «Диалог науки и религии» прошел в Екатеринбургской семинарии

О жизни и смерти от врача и богослова: в Миссионерском институте прошел семинар из цикла «Диалог науки и религии»

Семинар «Диалог науки и религии» прошел в Миссионерском институте