The art of programming
16.10
AI Incident Database
Считается, что со временем в памяти остаются только хорошие моменты, а плохие забываются. В вопросах безопасности, конечно, практичнее не полагаться на память и всё хорошее, а хранить все «грабли» систематизировано.
Например, уязвимости и угрозы хранятся в базах данных типа БДУ ФСТЭК, тактики и техники атак можно найти на ресурсах компании MITRE. За каждым инцидентом безопасности стоит человек, ну или группа людей.
В работе приложений на базе искусственного интеллекта тоже возникают сбои, обнаруживаются непредвиденные возможности и случаются инциденты. С 2020 года такие случаи стали фиксировать в единой базе данных, на подобии представленных выше. Проект AI Incident Database был создан Шоном Макгрегором, исследователем в области машинного обучения (Sean McGregor, ML architect at Syntiant). Проект является ресурсом некоммерческой коалиции Partnership on AI, которая стремится к «ответственному» использованию искусственного интеллекта.
В базе данных собрано более 800 инцидентов, связанных как с авариями автономных транспортных средств, так и с алгоритмической дискриминацией. С последней связаны случаи, когда Google Фото распознавал горилл на изображениях чернокожих людей. А в Китае умная камера приняла лицо с рекламного баннера на автобусе за нарушителя дорожного движения.
На ресурсе есть много интересного, чтобы провести время с пользой, а иногда и с удовольствием.
еще контент в этом сообществе
еще контент в этом соообществе
The art of programming
16.10
войдите, чтобы увидеть
и подписаться на интересных профи