Вторник, Февраль 4, 2020

В последнем фильме про Терминатора, спродюсированном самим Джеймсом Кэмероном, использована очень простая и очень эффектная драматургическая идея: несмотря на то, что Сара Коннор предотвратила наступление того будущего, из которого к ней прилетел Терминатор, будущее всё равно наступило. Немного не такое в деталях, с другими героями сопротивления, но в общем и целом такое же — машины победили. И из этого будущего все равно прилетит Терминатор. Предопределенность — вот главная идея картины. И эта предопределенность зависит вовсе не от роботов. А зависит она от людей, которые создают этих роботов.

Вот, скажем, гарвардский профессор по имени Латания Суини искала о себе что-нибудь в Гугле. И в первых же строках поисковой выдачи Гугл предположил, что профессор была арестована. Изучив вопрос, профессор выяснила, что компьютерный разум предполагает возможный арест людей с именами, более распространенными среди афроамериканцев. К которым и относится имя Латания. А, скажем, по запросу «ученый» или «бабушка» искусственный интеллект Гугла выдает фотографии преимущественно белых людей.

«Значит», — делает вывод профессор Суини, — «Искусственный интеллект способен закреплять или даже усиливать некоторые из вредных предрассудков нашего общества.

И тут бы, конечно, согласиться с профессором — ну действительно, ведь это же безобразие: подозревать в человеке преступника только потому, что у него имя, распространенное среди темнокожих. Или полагать, что ученый всегда только белый.

Вот только причем здесь предрассудки? Искусственный разум не оперирует предрассудками. Он оперирует статистикой. И если преступников среди афроамериканцев действительно больше, а ученых, наоборот, больше среди белых — то это никакие не предрассудки. Это постылая реальность, из которой и исходят алгоритмы компьютера. И именно поэтому Терминатор все равно прилетит — потому что люди хотят, чтобы он прилетел.

Да вот только что журнал Popular Mechanics опубликовал статью об использовании искусственного интеллекта в случае, цитирую: «агрессии России против союзника по НАТО». Там рассказывается про то, как компьютер будет анализировать приготовления агрессора и на основе этого предсказывать его, то есть — наши, дальнейшие действия.

Даже не вдаваясь в рассуждения о том, что предсказать действия русских, тем более на поле боя — это утопия, замечу, что в данном конкретном случае авторы журнала свидетельствуют о том, что они и американские военные ХОТЯТ, чтобы подобная агрессия состоялась. И чтобы прилетел Терминатор.

И Терминатор к ним, разумеется, прилетит. Правда, не оттуда, откуда думает условная Сара Коннор. То есть — не от нас. А из совершенно другого будущего.

Но если они так хотят — то он обязательно прилетит.

И искусственный интеллект тут ни причем.

{ 0 comments }