Главная  Журналы  Национальные интересы: приоритеты и безопасность  3(444) - 2025 март

Новый подход к оценке манипулятивного воздействия искусственного интеллекта на общественное сознание

Получена: 28.10.2024

Одобрена: 05.12.2024

Доступна онлайн: 13.03.2025

Рубрика: НАЦИОНАЛЬНЫЕ ИНТЕРЕСЫ

Коды JEL: С15, C45, C83, D83, O32

Страницы: 4-24

https://doi.org/10.24891/ni.21.3.4

Предмет. Проблема влияния искусственного интеллекта на сознание отдельного индивида и общества в целом.
Цели. Минимизация рисков негативного воздействия алгоритмов искусственного интеллекта на цивилизационные ценности российского общества в свете современной геополитической ситуации.
Методология. В работе использован системный инструментарий, открывающий возможности для принятия адекватных ситуативных управленческих решений. Для обобщения полученных результатов использовались хорошо известные тесты и стандартные методы оценки их результатов.
Результаты. Представлены результаты проведенного авторами экспериментального исследования проблемы смещения оценок под влиянием манипулятивности алгоритмов искусственного интеллекта. Результаты показали, что по фактору «индивидуализм – коллективизм» не имеет места смещение оценок под влиянием манипулятивности алгоритмов искусственного интеллекта с бесспорным для любых принятых уровней значимости сжатием вариативности. При оценке по фактору «макиавеллизм», который характеризует меру манипулятивности, смещение оценок, сгенерированных искусственным интеллектом групп условных «личностей», значимо отличается от аналогичных показателей контрольных групп индивидов.
Выводы. Целесообразны дальнейшие исследования манипулятивного воздействия алгоритмов искусственного интеллекта на общественное сознание по фактору «макиавеллизм».

Ключевые слова: цивилизационные ценности, сознание, искусственный интеллект, манипулятивность, факторы, смещение оценок

Список литературы:

1. Грачёв И.Д., Ноакк Н.В., Костина Т.А. Амбивалентность социальных представлений об ИИ: психология, статистика, прогнозы // Цифровая экономика. 2024. № 1. С. 54–61. URL: Link
2. Грачёв И.Д., Ноакк Н.В. Оптимизация разнообразия агентов: размышления, гипотезы, прогнозы // Цифровая экономика. 2024. № 2. С. 57–60. URL: Link
3. Волкова А.Д., Костина Т.А., Ноакк Н.В. Социальные представления об искусственном интеллекте: методологические аспекты (Часть 2) // Цифровая экономика. 2023. № S5. С. 18–28. URL: Link
4. Klenk M. (Online) Manipulation: Sometimes Hidden, Always Careless. Review of Social Economy, 2022, vol. 80, iss. 1, pp. 85–105. URL: Link
5. Faraoni S. Persuasive Technology and Computational Manipulation: Hypernudging out of Mental Self-Determination. Frontiers in Artificial Intelligence, 2022, vol. 6. URL: Link
6. Yang Y., Huang P., Cao J. et al. A Prompt-Based Approach to Adversarial Example Generation and Robustness Enhancement. Frontiers of Computer Science, 2023, vol. 18, iss. 4. URL: Link
7. Smith B., Shum H. The Future Computed: Artificial Intelligence and Its Role in Society. Microsoft Corporation, 2018, 138 p.
8. Agudo U., Matute H. The Influence of Algorithms on Political and Dating Decisions. PLoS ONE, 2021, vol. 16, iss. 4. URL: Link
9. Семенова Д.М., Афонин М.В., Кудрявцев С.А. Ценности в структуре гражданской идентичности: понятие и инструменты // Политконсультант. 2023. Т. 3. № 1. URL: Link
10. Литвинов В.Ю., Матвеева Л.В. Сравнительный анализ культурных представлений творческой молодежи о российской, западной и восточной цивилизациях // Социальная психология и общество. 2021. Т. 12. № 1. C. 177–197. URL: Link
11. Пантин В.И. Цивилизационные особенности развития России в контексте современных социальных трансформаций // Вестник Института социологии. 2021. Т. 12. № 4. С. 108–124. URL: Link
12. Савин С.Д., Касабуцкая М.С. Общенациональные российские ценности в контексте формирования коллективной идентичности // Вестник Санкт-Петербургского университета. Социология. 2019. Т. 12. Вып. 1. С. 82–97. URL: Link
13. Харичев А.Д., Шутов А.Ю., Полосин А.В., Соколова Е.Н. Восприятие базовых ценностей, факторов и структур социально-исторического развития России (по материалам исследований и апробации) // Журнал политических исследований. 2022. Т. 6. № 3. С. 9–19. URL: Link
14. Тренин Д.В. Новый баланс сил: Россия в поисках внешнеполитического равновесия. М.: Альпина Паблишер, 2021. 471 с.
15. Галлямова А.А., Григорьев Д.С. Разработка методики оценки воспринимаемой культуры сообщества на основе культурной ориентации «горизонтальный/вертикальный индивидуализм – коллективизм» Г. Триандиса // Вестник РУДН. Серия: Психология и педагогика. 2022. Т. 19. № 3. С. 429–447. URL: Link
16. Singelis T.M., Triandis H.C., Bhawuk D.P.S., Gelfand M.J. Horizontal and Vertical Dimensions of Individualism and Collectivism: A Theoretical and Measurement Refinement. Cross-Cultural Research, 1995, vol. 29, iss. 3, pp. 240–275. URL: Link
17. Знаков В.В. Психология понимания: проблемы и перспективы. М.: Институт психологии Российской академии наук, 2005. 448 с.
18. Christie R., Geis F.L. Studies in Machiavellianism. New York, Academic Press, 1970, 430 p.

Посмотреть другие статьи номера »