Получат ли роботы контроль над боеголовками?

Искусственный интеллект может вызвать ядерную войну

Искусственный интеллект может спровоцировать ядерный конфликт в ближайшие 20 лет. Исследовательский центр RAND Corporation опубликовал ответы ученых на вопрос, как «умное» оружие поведет себя в случае его применения.

Эксперты не смогли прийти к единому мнению. Первая группа исследователей считает, что боевая система будет представлять настоящую опасность, если вместе с ней государство получит абсолютное превосходство над другими странами. В этом случае ядерная война — лишь один из исходов. Даже если государство откажется использовать технологию, оно станет серьезной угрозой для мирового сообщества.

Атомная бомбардировка Хиросимы (слева) и Нагасаки (справа)
Применение ядерного оружия: бомбардировка Хиросимы (слева) и Нагасаки (справа)

По мнению других ученых, внедрение системы приведет к положительным результатам. После серии доработок она полностью заменит людей и будет принимать решения независимо от них. В число поправок, которые требуется внести в искусственный интеллект, входит даже изучение необычного поведения.

Многие назвали оптимистический прогноз спорным: исследователи не знают, насколько исчерпывающим будет «тренировка машины». В 1983 году подполковник Вооруженных сил СССР Станислав Петров отклонил ошибочный сигнал системы предупреждения о ракетном ударе со стороны США и отменил ответный пуск ракет. Тем самым Петров предотвратил потенциальную ядерную войну.

Станислав Петров стал лауреатом Дрезденской премии за предотвращение вооруженного конфликта
Станислав Петров стал лауреатом Дрезденской премии за предотвращение вооруженного конфликта

Ядерное оружие с искусственным интеллектом может как нанести непоправимый ущерб, так и стать стабилизирующим фактором. Однако все опрошенные ученые сошлись во мнении, что к 2040 году ни одной из стран не удастся создать подобную боевую систему. Как считают теоретики, система обязательно должна наносить ответный ядерный удар, даже если погибнет руководство страны. Такую способность технология получит совсем не скоро.

В июле 2015 года исследовательская организация Future of Life Institute опубликовала открытое письмо, в котором выразила опасение о скором появлении боевых систем с искусственным интеллектом. Авторы текста подчеркнули, что технология не должна стать «эффективным инструментом для убийства людей». Письмо подписали Стивен Хокинг, Илон Маск, Ноам Хомский, Стив Возняк, а также другие ученые и специалисты в сфере робототехники.

Я знаю, кто ты и где ты живешь

В Сингапуре камеры с функцией распознавания лиц появятся на каждом фонарном столбе

На фонарных столбах в Сингапуре установят камеры, которые смогут определять личность прохожих. С помощью системы видеонаблюдения власти планируют проводить аналитические исследования и оптимизировать антитеррористические операции.

Фонарный столбОстровное государство усеяно уличными фонарями: их число достигает 110 тысяч. Правозащитники и эксперты по безопасности опасаются, что при таком количестве камер перемещаться по городу анонимно будет невозможно.

По данным Reuters, представитель сингапурской государственной компании GovTech заверил, что права граждан и конфиденциальность информации ставятся превыше всего:

«В технической составляющей проекта мы в первую очередь учитываем защиту персональных данных и сохранение приватности».

Правительство Сингапура занимается разработкой системы беспроводных сенсоров «Lamppost-as-a-Platform», и определение личности людей – не единственная ее задача. Помимо основной функции система сможет определять интенсивность осадков, чистоту воздуха, места скопления прохожих и загруженность автомобильных дорог. На фонарных столбах также установят энергосберегающие светодиоды. Сами камеры видеонаблюдения способны анализировать и опознавать каждое лицо из 1,8 миллиардов за 3 секунды. Окончательное внедрение «Lamppost-as-a-Platform» завершится в следующем году.

Применение технологий в повседневной жизни

Распознавание лиц – одна из основных сфер применения искусственного интеллекта. В последние годы технология совершенствовалась мощными скачками; в областях, где требуется аутентификация личности, она используется особенно широко. Наибольшее распространение эта функция получила в Китае. Сегодня с ее помощью можно совершать покупки, регистрироваться на рейсы, следить за безопасностью внутри закрытых территорий и опознавать нарушителей закона за пару секунд.

Однако такая система нередко используется в корыстных целях. Процесс распознавания лица проходит скрыто, поэтому возможностями техники можно злоупотреблять. В январе Китай обвинили в слежке и ущемлении прав мусульман-уйгуров, представителей этнического меньшинства в КНР. Жертвами систем наблюдения также могут стать журналисты, правозащитники и политические оппоненты.

Юрий Флигельман: «Красть слова нельзя!»

О принципах и подводных камнях работы синхронного переводчика

Кто-то проводит жизнь среди бумаг, кто-то путешествует по миру, а кто-то совмещает эти занятия. О специфике своей работы рассказал синхронист Юрий Флигельман.

— Синхронистами рождаются или становятся?

— Рождаются. Сначала я думал, что знания языка достаточно. Это не так. Переводчику необходим особый склад ума, быстрота реакций. Можно сказать, мне повезло, ведь я, будучи новичком, действовал вслепую. Когда впервые попал на конференцию в роли переводчика, я пытался запоминать и воспроизводить речь кусками, было страшно тяжело. Во время перерыва ко мне подошел коллега (он должен был заменить меня в случае провала) и посоветовал говорить вместе со спикером. Я попробовал, и всё получилось.

— Что, по вашему мнению, отличает профессионала-переводчика?

— Я считаю, что главный принцип хорошего синхрониста — быть универсальным и надежным инструментом. Когда говоришь, нужно перестать существовать как личность: спикер несет чушь — неси чушь вместе с ним, спикер матерится — переводи его выражения дословно. Тебя не должно волновать, какими будут последствия — красть слова нельзя. Не каждому, правда, хватает смелости это признать.

— Всегда ли вы следовали этому принципу?

— Я часто оказывался в неоднозначных ситуациях, но всегда старался делать именно то, что от меня требовалось. Однажды я переводил разговор иностранной делегации с Андреем Ждановым. На его некорректное заявление один из американцев ответил справедливым замечанием. Переводчик Жданова молчал. Тогда я обратился к нему сам и пересказал речь иностранца полностью. Жданов покраснел и вышел из помещения, но я знал, что поступил правильно, и не боялся проблем.

— Как получилось, что вы оказались за пределами СССР?

— Я еврей, и, естественно, в советское время меня никуда не выпускали. Заводил важные связи, меня приглашали работать в другие страны, но выезжать я не мог, мне попросту отказывались  оформлять документы. Сжимал кулаки, но ничего не мог поделать. Позже я подружился с Валдасом Адамкусом  — благодаря ему я впервые оказался за границей. Он прислал мне все необходимые бумаги и подписал: «Собирайся». Вскоре я уже был в США, после — в Канаде и Египте.

— Как вы попали в Африку?

— Стечение обстоятельств. В 92-ом году я оказался в России, но заработать в ней тогда было невозможно. Ко мне обратился сосед с предложением отправиться в Египет, потому что его компании понадобился переводчик. Мне предложили крупную сумму — я согласился.

— Вам удалось найти общий язык с местным населением?

— С трудом. Дело было не только в языковом барьере. Впоследствии меня назначили еще и на должность менеджера, поэтому пришлось руководить местными. Сказать, что меня возненавидели — не сказать ничего. Арабы сливали из наших вертолетов керосин и разбавляли остатки водой. Из-за их воровства чуть не погиб мой приятель. Его вертолет упал после десяти минут полета и убил двух человек. Я сам едва не стал жертвой этого идиотизма: как минимум трижды находил в баке топливо с водой.

— Что больше всего запомнилось вам из путешествий?

— Когда я вырвался из Советского Союза в Штаты, первое, что меня шокировало, — магазины с тоннами еды, дружелюбие американцев и чистейшие уборные. После этого я оказался в Египте… Однажды увидел, как местная женщина мыла в реке посуду. Поблизости купались ее дети, а в паре метров от них проплывал полусгнивший осел. Вот ответ на ваш вопрос в одной картинке.

— Чему вас научила работа синхронным переводчиком?

— В первую очередь — арабскому (смеется). Пожалуй, я понял, что переводческая работа похожа на бесконечную полосу препятствий, которые либо ломают тебя, либо делают лучше. Мне удалось выдержать это испытание, и я счастлив, что не побоялся проверить себя на стойкость.