Тема ответственного использования технологий затрагивает не только окружающую среду и экономику, но и общество. Сегодня задуматься о том, как развитие технологий влияет на общество, больше всего заставляет нас искусственный интеллект. Применение ИИ максимально демократизировалось: сегодня он используется в массе сценариев. И в то же время вызывает активные дебаты. Что это — благо или возможная опасность?
Очевидно, что перспективы ИИ требуют особого внимания, и человечеству важно определиться с теми принципами, которое оно хочет заложить в эту область технологий. И государства, и компании-разработчики решений, и потребители формируют для себя принципы использования искусственного интеллекта.
Кристина Тихонова, президент Microsoft в России, в рамках Microsoft Envision Forum рассказала о шести этических принципах развития ИИ, сформулированных корпорацией и опубликованных на страницах книги The Future Computed – «Просчитанное будущее».
Итак, шесть принципов по версии Microsoft – это справедливость, надежность, конфиденциальность и безопасность, инклюзивность, прозрачность, подотчетность. Раскроем вкратце суть каждого из них.
Справедливость – это то, что мы ожидаем от технологии. Она, в отличии от человека, не имеет никаких предрассудков. Например, в отношении пола (вспомним, что банковские работники чаще одобряют кредиты мужчинам, нежели женщинам) или цвета кожи. Говоря о справедливости, мы хотим, чтобы технология принимала решения без предубеждений. Поэтому при разработке лучше иметь разнообразную команду, которая сможет представить взгляды различных социальных групп. Чтобы избежать предвзятости, уже зашитой в технологию, нужно при создании системы ИИ обеспечить максимальное разнообразие и репрезентативность данных, на основе которых компьютерный интеллект будет обучаться.
Надежность. Что будет, если что-то пойдет не так? Как поведет себя алгоритм при непредвиденном сценарии? Надежность ИИ – это тот самый вопрос «а что, если». Сценарии надежности, реакции механизма должны быть полностью проработаны и предусмотрены. Также важно придумать, каким образом человек может внести своевременные корректировки в систему. Искусственный интеллект должен в любой ситуации оставаться только инструментом, а действующим лицом всегда будет исключительно человек.
Конфиденциальность и безопасность. Как и другие облачные технологии, системы ИИ обязаны соответствовать законам о конфиденциальности, которые регулируют сбор, обработку, хранение данных и обеспечивают защиту личной информации.
Инклюзивность. Этот принцип тесно связан с первым принципом справедливости. Поскольку решения ИИ должны учитывать широкий круг человеческих потребностей и опыта посредством инклюзивных методов проектирования, при создании систем ИИ необходимо предусмотреть и устранить потенциальные барьеры в продуктах и сервисах, которые могут непреднамеренно ограничивать какие-либо группы людей.
Прозрачность. Учитывая, что ИИ оказывает все большее влияние на жизнь, наш долг -сделать информацию о том, как работает алгоритм, прозрачной для общества, чтобы люди понимали механизм принятия системой решений и могли определить для себя потенциальные риски или ошибки.
Подотчетность. Люди и бизнесы, которые работают над системами искусственного интеллекта, обязаны нести ответственность за свою работу. Стандарты этой подотчетности и ответственности должны основываться на постулатах из таких областей, как здравоохранение и неприкосновенность частной жизни.
Перспективы искусственного интеллекта огромны, но сформулировать принципы его разработки и использования на глобальном уровне очень важно. Для того чтобы весь мир увидел, каким образом ИИ может помочь нам в решении общих проблем, Microsoft запустила несколько программ, объединенных концепцией AI for Good или «Искусственный интеллект во благо».
Одна из таких программ – ИИ для здравоохранения. Она приобрела особое значения в период пандемии, поскольку технология была активно задействована в огромном количестве сценариев, помогающих распознавать болезнь, проводить тесты, прогнозировать заражение и эффективность методов лечения.
Хороший пример — Botkin.AI – российская компания, которая создала искусственный интеллект, анализирующий разнообразные снимки, в частности, снимки легких. Он помогает на ранних этапах выявить пневмонию и ускорить лечение. Инициатива позволит получить доступ к инструментам искусственного интеллекта, облачным вычислениям и другим ресурсам, включая денежные гранты.
Как мы видим, технологии влияют не только на конкурентоспособность, успешность бизнеса и его выживаемость, но также на окружающий мир и общество. Параллельно со стратегиями цифровизации и наравне с ними должны появиться стратегии и повестки ответственного отношения к технологиям и устойчивого развития.