Самое интересное за месяц с комментариями шеф-редактора. То, что нельзя пропустить!

Технологии

Ученые отказываются работать над созданием роботов-убийц

«Expert Online» 2018
Zuma\TASS

2400 инженеров и ученых, работающих в сфере искусственного интеллекта (AI), подписали письмо с обещанием не работать над созданием роботов-убийц, которые могут действовать без надзора людей и убивать их. Среди подписантов Демис Хассабис, один из основателей Google DeepMind, и директор SpaceX Илон Маск. Цель письма – убедить военно-промышленный комплекс и правительства не создавать  смертельные автономные системы вооружений (LAWS).

О письме объявлено на Международной конференции по искусственному интеллекту, которая сейчас проходит в Стокгольме. Это последнее мероприятие в кампании озабоченных ученых и организаций, которые хотят показать опасность передачи машинам с искусственным интеллектом решений, способных привести к смерти людей. Ранее были призывы запретить работу над технологиями, которые, по мнению участников движения за запрет роботов-убийц, могут привести к появлению оружия массового поражения нового поколения. Кампания ведется по образцу и подобию схожей кампании по запрету противопехотных мин. Участники той кампании считают ее успешной несмотря на то, что ряд крупных стран, включая США, закон, запрещающий производство и использование противопехотных мин, не подписали.

Во главе движения стоит бостонская организация «Институт будущего жизни». Письмо призывает правительства согласовать нормы, законы и правила, которые эффективно помешают созданию роботов-убийц. Пока же таких законов и правил нет, пишут подписанты, они обещают не работать над созданием LAWS и ни каким другим способом не содействовать их появлению и развитию. Кроме физических лиц, среди подписантов более 150 организаций и компаний.

Военные являются главными заказчиками работ по развитию AI. Переоценить возможности и важность роботов и компьютерных программ в военном деле трудно. Достаточно сказать, что министр обороны Великобритании Гэвин Уильямсон рассказал на этой неделе о запуске двухмиллиардного проекта по созданию нового истребителя ВВС Соединенного Королевства «Буря», который сможет летать без летчика. При этом британские власти утверждают, что Лондон не разрабатывает роботов-убийц и что британские военные всегда смогут контролировать AI. 

«Мы должны сделать международной нормой запрет автономных вооружений,- заявил в интервью лондонскому Guardian Тоби Уолш, профессор AI из австралийского университета Нового Южного Уэльса.- Человек всегда должен стоять в центре всего, что связано с искусственным интеллектом. Мы не можем помешать человеку, который полон решимости создать автономные системы вооружений, так же, как не можем помешать создавать новые виды химического оружия. Но если мы не хотим, чтобы государства изгои и террористы имели легкий доступ к LAWS, то мы должны позаботиться над тем, чтобы ими хотя бы открыто не торговали военные компании».  

Подписаться на «Эксперт» в Telegram



    Реклама




    Лидеры ИТ-отрасли вновь собрались в России

    MERLION IT Solutions Summit собрал около 1500 участников (топ-менеджеров глобальных ИТ-корпораций и российских системных интеграторов)

    Химия - 2018

    Развитие химической промышленности снова в приоритете. Как это отражается на отрасли можно узнать на специализированной выставке с 29.10 - 1.11.18

    Опасные игры с ценами

    К чему приводят закупки, ориентированные на максимально низкие цены

    В октябре АЦ Эксперт представит сразу два рейтинга российских вузов

    Аналитический центр «Эксперт» в октябре представит сразу два рейтинга российских вузов — изобретательской и предпринимательской активности.

    Эффективное управление – ключ к рынку для любого предприятия

    Повышение производительности труда может привести к кардинальному снижению себестоимости продукции и позволит российским компаниям успешно осваивать любые рынки


    Реклама