April 10th, 2019

Китайцы атакуют автопилот Теслы С.

Так и пишут: "physical attacks to spoof Tesla's autopilot".

Суть в том, что:
Чудесные, ультрасовременные нейронные сети видят реальность не так как мы. А управлять им приходится в реальном мире, со своими дурацкими представлениями о целесообразности и логике.

Эксперты показывают компьютерам картинки и учат их: "например, таким вещами, как разметка полос. Сеть постепенно научится распознавать маркировку линий на основе сходства, которое она обнаруживает в маркированном наборе данных, но ... это сходство может быть очень абстрактным."

Это несоответствие между тем, что на самом деле является маркировкой, и тем, что думают нейронные сети ведет к тому, что даже высокоточные нейронные сети могут быть "обмануты «враждебными» изображениями". На прошлой неделе исследователи из лаборатории Keen Security в Tencent показали, как обмануть систему обнаружения полосы движения в Tesla Model S. Приэтом чтобы метки полосы будут распознаваться человеком, но автопилот Тесла свернет в неправильную полосу без предупреждения.


И геймпадом управляют и т.д.:
Китайцы глумятся:


"наклейки, размещенные там, где нет других разметок полосы движения, могут привести к тому, что на автопилоте Tesla переключится на встречную полосу без предупреждения(!)"

Кстати, Тесла уже ответила на это исследование:
Collapse )
promo engineering_ru июль 8, 2016 21:56 59
Buy for 50 tokens
Оригинал взят у alex_avr2 в Центральная канализационная насосная станция Москвы Если посмотреть на расположение крупнейших водопроводных…
Леонов Валерий

Что за девайс?



Казарма для семейных рабочих раменской фабрики «Т-П Товарищества П.Малютина сыновья» - в  коридоре из стены торчит вот такой девайс.

Диаметр крышки около 20 сантиметров. Плоскость крышки наклонена в сторону коридора градусов на 25-30. Расположен девайс на высоте около 120 сантиметров.
Collapse )