AI Incident Database

Считается, что со временем в памяти остаются только хорошие моменты, а плохие забываются. В вопросах безопасности, конечно, практичнее не полагаться на память и всё хорошее, а хранить все «грабли» систематизировано.

Например, уязвимости и угрозы хранятся в базах данных типа БДУ ФСТЭК, тактики и техники атак можно найти на ресурсах компании MITRE. За каждым инцидентом безопасности стоит человек, ну или группа людей.

В работе приложений на базе искусственного интеллекта тоже возникают сбои, обнаруживаются непредвиденные возможности и случаются инциденты. С 2020 года такие случаи стали фиксировать в единой базе данных, на подобии представленных выше. Проект AI Incident Database был создан Шоном Макгрегором, исследователем в области машинного обучения (Sean McGregor, ML architect at Syntiant). Проект является ресурсом некоммерческой коалиции Partnership on AI, которая стремится к «ответственному» использованию искусственного интеллекта.

В базе данных собрано более 800 инцидентов, связанных как с авариями автономных транспортных средств, так и с алгоритмической дискриминацией. С последней связаны случаи, когда Google Фото распознавал горилл на изображениях чернокожих людей. А в Китае умная камера приняла лицо с рекламного баннера на автобусе за нарушителя дорожного движения.

На ресурсе есть много интересного, чтобы провести время с пользой, а иногда и с удовольствием.

AI Incident Database
Считается, что со временем в памяти остаются только хорошие моменты, а плохие забываются | Сетка — новая социальная сеть от hh.ru
repost

40

input message

напишите коммент

еще контент в этом сообществе

еще контент в этом соообществе

войдите, чтобы увидеть

и подписаться на интересных профи

в приложении больше возможностей

пока в веб-версии есть не всё — мы вовсю работаем над ней

сетка — cоциальная сеть для нетворкинга от hh.ru

пересекайтесь с теми, кто повлияет на ваш профессиональный путь