Невиновного бросили в тюрьму из-за ошибки распознавания лиц?
Мужчина из Нью-Джерси провел 10 дней в тюрьме после того, как программа распознавания лиц ошибочно определила его как подозреваемого в краже в магазине при отягчающих обстоятельствах??
Полиция пыталась установить личность подозреваемого, который украл из сувенирного магазина отеля, а затем скрылся от полиции на Dodge Challenger, врезавшись в патрульную машину, прежде чем уехать. Изображения, снятые с места происшествия, были обработаны с помощью программного обеспечения Clearview и система определила преступника как Нжир Паркс.
Единственная проблема в том, что Паркс никогда не был в городе, где произошел инцидент. Но по лиции было все равно, его бросили в тюрьму и дело дошло до суда. По счастью при поддержке правозащитников мужчину оправдали.
Паркс провел 10 дней в тюрьме и потратил тысячи долларов на адвоката.
Это не единственный случай.☝?
В Детройте мужчина провел 30 часов в тюрьме в начале этого года после того, как видео об ограблении было пропущено через инструменты распознавания лиц, и он был ошибочно отмечен как подозреваемый.
В России тоже алгоритмы обвиняют невиновных?
Система распознавания лиц «Ашана» дала сбой и указала на невиновного человека как на преступника.
Охранники магазина незаконно задержали его на два часа, после чего передали полицейским, которые угрожали ему обыском дома и 8 годами тюрьмы. Причину задержания пострадавшему раскрыли спустя пять часов и только после приезда адвоката.
===================
Эти случаи подчеркивает опасность, которую представляет программное обеспечение для распознавания лиц. Оно остается ненадежным и открытым для злоупотреблений.
Представьте что может сделать потенциальный хакер получивший доступ к такой системе. А поверьте в будущем мы обязательно увидим подобные взломы и злоупотребления.
Я уже молчу про то как могут этим манипулировать диктаторские режимы?
Система распознавания лиц, в сегодняшнем ее применении — это инструмент для построения диктаторского антиутопического общества. Повсеместно применяемый правительствами всех стран для обретения еще большей власти и контроля над людьми.
Мужчина из Нью-Джерси провел 10 дней в тюрьме после того, как программа распознавания лиц ошибочно определила его как подозреваемого в краже в магазине при отягчающих обстоятельствах??
Полиция пыталась установить личность подозреваемого, который украл из сувенирного магазина отеля, а затем скрылся от полиции на Dodge Challenger, врезавшись в патрульную машину, прежде чем уехать. Изображения, снятые с места происшествия, были обработаны с помощью программного обеспечения Clearview и система определила преступника как Нжир Паркс.
Единственная проблема в том, что Паркс никогда не был в городе, где произошел инцидент. Но по лиции было все равно, его бросили в тюрьму и дело дошло до суда. По счастью при поддержке правозащитников мужчину оправдали.
Паркс провел 10 дней в тюрьме и потратил тысячи долларов на адвоката.
Это не единственный случай.☝?
В Детройте мужчина провел 30 часов в тюрьме в начале этого года после того, как видео об ограблении было пропущено через инструменты распознавания лиц, и он был ошибочно отмечен как подозреваемый.
В России тоже алгоритмы обвиняют невиновных?
Система распознавания лиц «Ашана» дала сбой и указала на невиновного человека как на преступника.
Охранники магазина незаконно задержали его на два часа, после чего передали полицейским, которые угрожали ему обыском дома и 8 годами тюрьмы. Причину задержания пострадавшему раскрыли спустя пять часов и только после приезда адвоката.
===================
Эти случаи подчеркивает опасность, которую представляет программное обеспечение для распознавания лиц. Оно остается ненадежным и открытым для злоупотреблений.
Представьте что может сделать потенциальный хакер получивший доступ к такой системе. А поверьте в будущем мы обязательно увидим подобные взломы и злоупотребления.
Я уже молчу про то как могут этим манипулировать диктаторские режимы?
Система распознавания лиц, в сегодняшнем ее применении — это инструмент для построения диктаторского антиутопического общества. Повсеместно применяемый правительствами всех стран для обретения еще большей власти и контроля над людьми.