Всем известны три закона робототехники, сформулированные писателем-фантастом Айзеком Азимовым. Суть этих законов в общем сводится к тому, что робот ни при каких условиях не должен причинить вред человеку.
Законы робототехники были разработаны в 1942 году, когда никаких роботов еще вовсе не существовало. Соответственно, наивные писатели исходили из презумпции добросовестности тех, кто однажды создаст настоящего робота.
Однако мало того, что сами люди искусства со временем стали исходить из иных концепций, вершиной среди которых стала придуманная кинорежиссером Джеймсом Кэмероном система Скайнет, решившая уничтожить человечество и практически уничтожившая его. Так уже и военные некоторых стран мира стали интересоваться боевыми роботами, способными самостоятельно принимать решения о стрельбе на поражение. Образцы таких роботов давно уже созданы коммерческими компаниями. И, хотя они официально не стоят на вооружении ни одной страны мира, существуют свидетельства не только наличия подобных систем в войсках. Но даже и зафиксированный в докладе Группы экспертов Совета Безопасности ООН случай реального применения автономного боевого робота в Ливии.
Еще в 2016 году международные организации начали разработку документов, регулирующих эти вопросы, однако документов пока как не было так и нет.
Между тем 30 октября страны большой семерки оперативно согласовали принципы, которым должны следовать разработчики искусственного интеллекта. Основная задача, конечно — обеспечить защиту демократических ценностей. То есть, разработчики искусственного интеллекта должны снабжать свои системы механизмом идентификации сгенерированного контента. Человек в общем случае должен уметь отличить, настоящее он смотрит видео с каким-нибудь политиком, или поддельное. Ни слова о военном применении потенциального Скайнета в соглашении нет. Как нет и разъяснений относительно того, что делать, когда разработчик искусственного интеллекта не имеет никакого отношения к странам большой семерки и не будет следовать разработанным ими принципам.
Таким образом, мы снова возвращаемся к презумпции добросовестности создателя робота или искусственного интеллекта.
Надежды на которую нет.
{ 0 comments }