AI Incident Database

Считается, что со временем в памяти остаются только хорошие моменты, а плохие забываются. В вопросах безопасности, конечно, практичнее не полагаться на память и всё хорошее, а хранить все «грабли» систематизировано.

Например, уязвимости и угрозы хранятся в базах данных типа БДУ ФСТЭК, тактики и техники атак можно найти на ресурсах компании MITRE. За каждым инцидентом безопасности стоит человек, ну или группа людей.

В работе приложений на базе искусственного интеллекта тоже возникают сбои, обнаруживаются непредвиденные возможности и случаются инциденты. С 2020 года такие случаи стали фиксировать в единой базе данных, на подобии представленных выше. Проект AI Incident Database был создан Шоном Макгрегором, исследователем в области машинного обучения (Sean McGregor, ML architect at Syntiant). Проект является ресурсом некоммерческой коалиции Partnership on AI, которая стремится к «ответственному» использованию искусственного интеллекта.

В базе данных собрано более 800 инцидентов, связанных как с авариями автономных транспортных средств, так и с алгоритмической дискриминацией. С последней связаны случаи, когда Google Фото распознавал горилл на изображениях чернокожих людей. А в Китае умная камера приняла лицо с рекламного баннера на автобусе за нарушителя дорожного движения.

На ресурсе есть много интересного, чтобы провести время с пользой, а иногда и с удовольствием.