Этика ИИ Много кто разрабатывает и внедряет искусственный интеллект в свои продукты, а некоторые думают ещё про этику. После того как я прочитала Life 3.0, решила изучить, как отличаются принципы в разных компаниях по поводу AI.
Подходы в целом похожи, но есть и свои фишки.
1. Google. В 2018 году опубликовали семь принципов про обеспечение социальной пользы, предотвращение несправедливой предвзятости, безопасность, подотчетность, защиту конфиденциальности, научное превосходство и ограничение применения ИИ в вредоносных целях.
Полный список 2. Microsoft.Шесть ключевых принципов: справедливость, надежность и безопасность, конфиденциальность и защита, инклюзивность, прозрачность и подотчетность. Microsoft призывает к ответственному использованию ИИ и соответствию этическим стандартам.
Ссылка 3. IBM. У ребят всё про прозрачность и объяснимость. Они говорят: "Никакой магии, только логика и польза человечеству" и борятся с предвзятостью в алгоритмах.
Что они пишут ещё: The IBM AI Ethics Board is at the center of IBM’s commitment to trust. Its mission is to:
- Provide governance and decision-making as IBM develops, deploys, and uses AI and other technologies
- Maintain consistency with the company’s values
- Advance trustworthy AI for our clients, our partners and the world
Ссылка 4. Meta. Разработали принципы, направленные на прозрачность, приватность, безопасность, инклюзивность и подотчетность. (Никто не хочет, чтобы AI вышел из под контроля. 😎) Компания стремится к ответственному использованию ИИ в своих платформах.
Ссылка 5. Amazon
Они добавляют ещё важный пункт Объясняемость: результаты работы должны быть объяснимы и понятны. Но честно говоря, мне кажется, что это какая-то утопия.
- Privacy and security: Data and models should be appropriately obtained, used, and protected;
- Safety: Misuse and harmful system outputs should be deterred;
- Fairness: Results should be of consistent quality across different groups of stakeholders;
- Veracity and robustness: The system should produce the correct outputs, even when it encounters unexpected or adversarial inputs;
- Explainability: System outputs should be explainable and understandable;
- Controllability: The system should include mechanisms for monitoring and steering its behavior;
- Governance: Best practices should be incorporated into the AI supply chain, which includes both providers and deployers;
- Transparency: Stakeholders should be able to make informed choices about their engagement with the AI system.
Ссылка 6. SalesForce
Здесь ребята ещё очень много фокуса делают на том, как и что можно и нельзя использовать из их продуктов.
Например, " Формирование индивидуальных медицинских, юридических или финансовых консультаций запрещено в целях сохранения человеческого принятия решений в этих областях."
Любые принципы в итоге оочень сильно влияют на то, как развиваются продукты.
@projectsproducts
