Зачем разработчикам нейронных сетей гуманитарное мышление

По одной из лекций научного фестиваля «Кстати» в Новосибирске

Сотрудница MAXGEN PROMO делится впечатлениями от похода на лекцию по нейронным сетям

26 сентября руководитель службы функциональности поиска Яндекса, кандидат физико-математических наук Андрей Плахов прочел научно-популярную лекцию о машинном обучении. А вы знали, что все любители компьютерных игр на полном серьезе могут считать себя причастными к первым шагам Искусственного Интеллекта (ИИ)? Потому что именно на видеокартах удобно обучать искусственный интеллект, а миллионы геймеров демонстрировали свою логику, на основе которой и проводилось первое машинное обучение.

Конспект рассказа Андрея Плахова о машинном обучении и искусственном интеллекте (ИИ):

Нам кажется что прогресс стал не таким быстрым как раньше, и мощность вычислительных устройств не растет по экспоненте, как было с 70х годов.  Но Плахов показывает,что рост идет полным ходом и закон Мура (вопреки умозаключениям самого Гордона Мура) все еще действует.
Подобный же график демонстрирует внедрение технологий — телефон, компьютер, смартфон — если 1/4 населения пользуется, значит технология ушла в массы, внедрена, прижилась.

Технологии машинного обучения не заперты в Сколково или Академгородке. Беспилотный автомобиль уже проехал из Москвы в Казань прямо по дорогам общего пользования, то есть среди обычных водителей, а это 800 километров, и сейчас работает в Иннополисе (наукоград под Казанью) в качестве беспилотного такси.

Факты из других выступлений:

— Илон Маск разогнал свой личный автомобиль «Тесла»  до 30 000 км/с, и это не преувеличение — он запустил машину в космос.

Ближайшее будущее — 2040 год

Искусственный интеллект по оценке Плахова дело не просто ближайшего будущего. Происходит накопление знаний и технологий, которое  к 2040 году даст очередной рывок по закону Мура. Ожидаются некие сильные изменения. Из небольших, например, ожидается что беспилотные автомобили станут настолько привычным явлением, как сейчас пристегиваться за рулем, и к 2040 опыт вождения автопилотов настолько превысит некий порог, что вождение людям вообще станет законодательно запрещено, как сейчас вождение в нетрезвом виде.

Социальную ткань общества это тоже поменяет и тоже, как и машины-беспилотники, реализуется в ближайшем будущем, буквально в течение 1 поколения. Из небольших, зато точно ожидающихся изменений, начнут вымирать привычные нам профессии: продавцы, военные, как когда-то пропали телефонисты, косари, гребцы и вычислители (были такие люди, которые вычисляли, вместо компьютеров).

Андрей Плахов на фестивале «Кстати»-2018

Кто обучает машины для Яндекса, если в 2008 году это было 100 человек, а в 2018 это 2 000 000 человек? Военные и продавцы как раз понадобятся, чтобы обучать машины своим действиям, так сейчас уже устроено у Amazon и Google.

Факты из других выступлений:

— В 2023 планируется полет вокруг Луны с 8 творческими людьми на борту, куда может попасть в общем-то любой, кто убедит хозяина рейса взять его с собой.

Считалось, что искусственный интеллект не может играть в игру го, потому что она, по утверждениям профессионалов, требует не интеллекта, а интуиции и чувства красоты, так что, по мнению японцев и китайцев, недоступна даже умам, воспитанным Западом. 27 сентября в Победе покажут фильм, снятый по реальным событиям, как ИИ не только научился играть в го, но и выиграл, и по оценкам профессионалов «нам нужно поучиться мудрости и гармонии» у компьютеров.

Нечто важное о канцелярских скрепках

Логика искусственного интеллекта отличается от человеческой, что стараются использовать в промышленности для нахождения нестандартных вариантов удешевления производства. Футуролог Ник Бостром поставил мысленный эксперимент: ИИ была дана задача найти способ произвести как можно больше скрепок наиболее дёшево. Однако нечеловеческая логика слишком нечеловеческая. Искусственный интеллект нашел высокоэффективный способ производства канцелярских скрепок: построить максимальное количество фабрик по производству скрепок, а когда ресурсы на планете истощатся, убить человечество, и продолжать делать фабрики, и далее превратить всю имеющуюся материю во Вселенной в скрепки. Когда разработчик внес изменения в условия, искусственный интеллект выдал вариант заставить человечество производить скрепки. Когда и этот вариант постановщика не устроил, искусственный интеллект предложил заставить людей самих хотеть производить скрепки.

Следует быть осторожным при формулировании задач для искусственного интеллекта.

Отвечая на вопросы из зала, Плахов сказал, что ИИ сам не может ничего хотеть, он может только стараться максимально добиться поставленной перед ним цели.
На вопрос о вероятности создания злонамеренного искусственного интеллекта эксперт ответил, что вероятность того, что искусственный интеллект, самостоятельно обучаясь на жестоких компьютерных играх и переписке пользователей, осознает себя как субьекта и разовьется до злонамеренного в обозримом будущем крайне низка. Чего реально следует опасаться, так это того, что некий злобный гений из числа людей создаст ИИ с заложенным в нем негативным сценарием, или просто нечаянно не пропишет некоторые запреты, как в случае с канцелярским заводом.

Неожиданным стало окончание лекции. Плахов поднял вопрос «Какое же место в этой инженерно-механистичной среде отводится гуманитарным наукам?» Ответ самого эксперта: необходим мыслитель, обладающий гуманитарным складом ума, способный на вопрос искуссвтенного интеллекта  «Чего же вы хотите, господин?» отвечать  так, чтобы искусственный интеллект не уничтожил человечество, реализовывая безобидное задание по оптимистичному сценарию. В итоге со сцены прозвучало классическое «Счастье для всех, даром, и пусть никто не уйдет обиженным», иначе может получиться, что просто «никто не уйдет».

Факты из других выступлений:

— Тихоходки и коловратки выдерживают дозы облучения, от которых человек буквально плавится, а самое обидное, что они обладают 30 000 хромосом в цепочке ДНК, а человек всего 20 000.

Это лишь одна из встреч фестиваля науки «Кстати», который проходил в Новосибирске с 26 по 30 сентября 2018 года, в том числе по вечерам, так что туда можно было попасть после работы. На разных площадках прошли открытые лекции известных ученых и популяризаторов науки из разных городов России, кинопоказы и научно-популярные ток-шоу. Вход на все мероприятия свободный. Ожидаем следующий фестиваль в 2019.

 

 

 

               

Подпишитесь на рассылку новых статей!



Это вам тоже понравится

setTimeout( function() { jQuery(".btQuoteTotal").css("cssText","background: #fff !important"); }, 5000);