Новости

Продажа средств защиты органов дыхания
Наша компания, расположенная в городе Тамбове, является участником рынка оптовой торговли средствами защиты органов дыхания с 1993 года. За это время нашими партнерами стали АБПТО и КО г. Альметьевск,

Пожарная безопасность: Огнетушители, Аварийно-спасательный инструмент, Защитная одежда, оборудование
Опубликовано в журнале «Мир и Безопасность» №2 2012 ИЗВЕЩАТЕЛИ ПЛАМЕНИ «НАБАТ». Высокое быстродействие без ложных срабатываний Извещатели пламени «НАБАТ» были специально разработаны для установки на

Степень защиты IP
Система IP (Ingress Protection Rating) — система классификации степеней защиты оболочки электрооборудования (electrical enclosure equipment) от проникновения твёрдых предметов и воды в соответствии с

Ремонт ЖК Led телевизора LG 32LN613V


Что такое степень защиты IP?
Степень защиты IP — Ingress Protection Rating (в переводе с английского языка — степень защиты от проникновения) — система классификации степеней защиты оболочки электрооборудования и других устройств

Дистанционный способ продажи, Общество защиты прав потребителей
РОССИЙСКАЯ ФЕДЕРАЦИЯ ЗАКОН  О ЗАЩИТЕ ПРАВ ПОТРЕБИТЕЛЕЙ  (с изменениями и дополнениями от 2 июня 1993 г., 9 января 1996 г., 17 декабря 1999 г., 30 декабря 2001 г., 22 августа, 2 ноября, 21 декабря

Класс защиты или что такое IP?
International Protection — система классификации степеней защиты корпусов электрооборудования от проникновения твёрдых предметов и водыв соответствиис международным стандартом IEC 60529 (DIN 40050, ГОСТ

1 Июня (Всемирный День Защиты Детей): история праздника
1 июня в Украине, России да и во всем мире отмечают праздник День Защиты Детей. Прекрасная погода, на небе ни облачка, ярко светит солнце и небольшой ветерок приятно освежает. Настроение в такой

Статья 26.1 Закона о защите прав потребителей (ЗоЗПП)
Статья 26.1. Дистанционный способ продажи товара 1. Договор розничной купли-продажи может быть заключен на основании ознакомления потребителя с предложенным продавцом описанием товара посредством

Статья 26.1
Российская Федерация Закон О защите прав потребителей (Последняя редакция от от 25.06.2012 N 93-ФЗ ) (введена Федеральным законом от 21.12.2004 N 171-ФЗ) 1. Договор розничной купли-продажи

Статьи

Как взломать интеллектуальную машину

На этой неделе Microsoft и Alibaba разожгли новые опасения, что роботы скоро займут нашу работу. Две компании независимо показал что их системы искусственного интеллекта бьют людей при проверке понимания прочитанного. Тест, известный как Стэнфордский набор вопросов и ответов (SQuAD), был разработан, чтобы обучить ИИ отвечать на вопросы о наборе статей из Википедии.

Как и программное обеспечение для распознавания изображений, уже развернутое в коммерческих фото-приложениях, эти системы создают впечатление, что машины становятся все более и более способными воспроизводить человеческое познание: распознавать изображения или звуки, а теперь ускоряют чтение текстовых отрывков и извергают ответы с человеческой точностью.

Умные машины, тем не менее, не всегда являются тем, кем кажутся. Специалисты, разрабатывающие сети глубокого обучения и другие системы искусственного интеллекта, узнают, насколько хрупки их творения, изучая, действительно ли машины что- то знают . Программное обеспечение для стресс-тестирования - например, перед его загрузкой в ​​автомобиль с автоматическим управлением - будет иметь решающее значение для предотвращения грубых ошибок, которые могут привести к катастрофическим авариям. «В некоторых областях нейронные сети на самом деле являются сверхчеловеческими, как будто они бьют человека», - говорит Аниш Аталье, аспирант Массачусетского технологического института, который занимается исследованиями ИИ. «Но у них есть та странная особенность, что кажется, что мы можем обмануть их довольно легко».

Две препринтные статьи Athalye и других студентов из MIT, все вместе известные как LabSix, продемонстрировали, что они могут создать систему глубокого обучения - одну научили распознавать объекты из тысяч примеров - чтобы думать, что изображение лыжника - это собака ( PDF ) а черепаха была винтовкой ( PDF ). Декабрь бумага команда Google Brain Team, исследовательский контингент компании по искусственному интеллекту, использовала другой подход, чтобы обманом заставить систему классифицировать банан как тостер.

Декабрь   бумага   команда Google Brain Team, исследовательский контингент компании по искусственному интеллекту, использовала другой подход, чтобы обманом заставить систему классифицировать банан как тостер

Поместив паттерн противника, напоминающий психоделический тостер, рядом с изображением банана, система распознавания изображений Google определила содержание изображения как тостер, а не как соответствующий фрукт. Кредит: Состязательный патч , Том Браун и др. [cs.CV] 27 декабря 2017

В методе LabSix алгоритм слегка изменяет цвет или яркость каждого пикселя изображения. Хотя картина выглядит одинаково для вас или меня, эти тонкие изменения заставляют систему интерпретировать ее как нечто совершенно иное. По словам Аталье, маскировка модификации изображения «делает его более актуальным для реальной атаки». «Если вы видите, что в реальном мире кто-то ставит дорожный знак, который выглядит психоделически, люди могут подумать:« О, здесь что-то подозрительное », и это будет расследовано. Но если у вас есть что-то, что похоже на знак ограничения скорости, но ваша машина с автоматическим управлением считает, что это что-то совершенно другое, это гораздо более пугающий сценарий ».

С тостером Google Brain выбрал другую тактику. Вместо того, чтобы менять изображения по отдельности, они хотели разработать техническую пленку, которую можно разместить в любой сцене. Это означало создание нового уникального образа - патча противника - который сбивает с толку систему глубокого обучения и отвлекает ее от сосредоточения на других предметах. Вместо того, чтобы смешиваться, патч для тостера должен был выделиться. «Учитывая, что патч контролирует только пиксели в пределах небольшого круга, в котором он находится, оказалось, что лучший способ для патча обмануть классификаторы - стать очень заметным», - написал Гуглер Том Браун в электронном письме. «Традиционная состязательная атака незначительно изменяет все пиксели в одном изображении. Для состязательного патча мы изменили несколько пикселей на большую величину ».

Чтобы работать вне лаборатории, патч также должен был быть устойчивым к визуальному шуму в реальном мире. В более ранних исследованиях, просто изменение ориентации или яркости измененного изображения могло победить противоборствующую технику. Сфокусированное изображение кота, рассматриваемого прямо, классифицируется как гуакамоле, но поверните кота в сторону, и система узнает, что он снова смотрит на кота. Патч для тостера, напротив, может быть представлен при любом освещении или ориентации и все равно саботировать систему. «Это было сложнее разработать, потому что это означало тренировку патча в самых разных смоделированных сценах, чтобы мы могли найти один патч, который будет успешным во всех», - написал Браун.

Хотя примеры глупы, потенциальные последствия в реальном мире смертельно серьезны. Атали предположил, что нападение противника может заставить самодвижущийся автомобиль игнорировать знак остановки. Или что он может скрыть рентгеновское изображение бомбы во время досмотра багажа в аэропорту. Цель исследований Athalye и Brown - помочь выявить слабые места в технологии до ее внедрения.

Гари Маркус, профессор психологии в Нью-Йоркском университете, полагает, что ИИ подвержен подобному обману, потому что «машина не понимает сцену в целом», - сказал он мне. ИИ может распознавать объекты, но он не может понять, что это за объект или для чего он используется. Это не «истинное понимание причинно-следственных связей между вещами, истинное понимание того, кто что делает, с кем и почему».

После заголовков о том, что системы ИИ проводят тесты на понимание прочитанного, Маркус опроверг результаты, сказав, что действия машины не имеют ничего общего с истинным пониманием. Маркус написал в Твиттере: «Тест SQuAD показывает, что машины могут выделять соответствующие фрагменты текста, а не то, что они понимают эти фрагменты».

Вместо того, чтобы обучать систему искусственного интеллекта на сотнях тысяч примеров, Маркус считает, что область должна взять свои подсказки от когнитивной психологии для разработки программного обеспечения с более глубоким пониманием. Принимая во внимание, что глубокое обучение может идентифицировать собаку и даже классифицировать ее породу по изображению, которого она никогда не видела прежде, она не знает, что человек должен выгуливать собаку вместо собаки, которая выгуливает человека. Он не понимает, что на самом деле собака и как она должна взаимодействовать с миром. «Нам нужен другой тип архитектуры ИИ, связанный с объяснением, а не только с распознаванием образов», - говорит Маркус.

Пока это не будет сделано, наша работа безопасна - по крайней мере, на некоторое время.





Фотография дня Фотография часа
Карта