очередное эмигрантское г.) (solar_front) wrote in engineering_ru,
очередное эмигрантское г.)
solar_front
engineering_ru

Category:

Китайцы атакуют автопилот Теслы С.

Так и пишут: "physical attacks to spoof Tesla's autopilot".

Суть в том, что:
Чудесные, ультрасовременные нейронные сети видят реальность не так как мы. А управлять им приходится в реальном мире, со своими дурацкими представлениями о целесообразности и логике.

Эксперты показывают компьютерам картинки и учат их: "например, таким вещами, как разметка полос. Сеть постепенно научится распознавать маркировку линий на основе сходства, которое она обнаруживает в маркированном наборе данных, но ... это сходство может быть очень абстрактным."

Это несоответствие между тем, что на самом деле является маркировкой, и тем, что думают нейронные сети ведет к тому, что даже высокоточные нейронные сети могут быть "обмануты «враждебными» изображениями". На прошлой неделе исследователи из лаборатории Keen Security в Tencent показали, как обмануть систему обнаружения полосы движения в Tesla Model S. Приэтом чтобы метки полосы будут распознаваться человеком, но автопилот Тесла свернет в неправильную полосу без предупреждения.


И геймпадом управляют и т.д.:
Китайцы глумятся:


"наклейки, размещенные там, где нет других разметок полосы движения, могут привести к тому, что на автопилоте Tesla переключится на встречную полосу без предупреждения(!)"

Кстати, Тесла уже ответила на это исследование:

«В этой демонстрации исследователи скорректировали физическую среду (например, разместив ленту на дороге или изменив линии полосы движения) вокруг транспортного средства, чтобы заставить автомобиль вести себя по-разному, когда используется автопилот. Это не случай из реального мира. И надо помнить, что водитель может легко выключить автопилот в любое время, используя руль или тормоза, и он должен быть готов к этому в любое время ».

Т.е. дорогие друзья, это автопилот, но ты должен его постоянно пасти. Я представляю себе следующую ситуацию:
1) Вы в отпуске.
2) Вы двигаетесь по высокоскоростной трассе например в Австрии.
3) Трасса входит в тонель и перед ним раздельная полоса исчезает.
4) Автомобиль на автопилоте выбирает не верный вьезд в тунель (встречка).
5) Водитель в ужасе хватается за руль, но дтп происходит.
6) Виноват водитель: его реакция, он был "последним кто управлял средством".
7) Все довольны, все расходятся (пенсионный фонд, медстраховка, торговцы органами).
Tags: испытания и эксперименты, технологии, транспорт, электричество
Subscribe

  • Грузовик с водородным топливным элементом, ориентировочные показатели

    Как известно, многие страны предпринимают значительные усилия по уменьшению выбросов углекислого газа, а транспорт, работающий на ископаемом…

  • Для поклонников инноваций.

    если вдруг Вам кажется, что прогресс сейчас движется семимильными темпами, и только последнее (Ваше) поколение особенно умное, то взгляните на…

  • Поздно.

    (на фото лопасть ветряка: их необходимо не только изготовить, транспортировать (зачастую в труднодоступные районы) и установить, но и по истечении…

promo engineering_ru march 16, 2016 10:02 15
Buy for 50 tokens
В сообществе chto_chitat возникла тема про французский телеграф времен Наполеона. Потому решил запостить сюда пару старых постов на эту тему: Любопытный пример технологии, которая вполне бы могла быть создана и на 100-150 лет раньше и потребность в которой вроде бы была, но…
  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

  • 156 comments
Previous
← Ctrl ← Alt
Next
Ctrl → Alt →
Previous
← Ctrl ← Alt
Next
Ctrl → Alt →

  • Грузовик с водородным топливным элементом, ориентировочные показатели

    Как известно, многие страны предпринимают значительные усилия по уменьшению выбросов углекислого газа, а транспорт, работающий на ископаемом…

  • Для поклонников инноваций.

    если вдруг Вам кажется, что прогресс сейчас движется семимильными темпами, и только последнее (Ваше) поколение особенно умное, то взгляните на…

  • Поздно.

    (на фото лопасть ветряка: их необходимо не только изготовить, транспортировать (зачастую в труднодоступные районы) и установить, но и по истечении…