Минченко Е.А.
АНАЛИЗ СТАТИСТИКИ ИНЦИДЕНТОВ С УЧАСТИЕМ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА БАЗЫ ДАННЫХ AI INCIDENT DATABASE *
Аннотация:
статья представляет анализ статистики инцидентов с участием искусственного интеллекта на основе данных из базы AI Incident Database (AIID) и охватывает 1005 зарегистрированных случаев.
Ключевые слова:
искусственный интеллект, инциденты, база данных
DOI 10.24412/2712-8849-2025-687-1224-1230
Искусственный интеллект (ИИ) стремительно внедряется во все возможные сферы нашей жизни, принося как значительную пользу, так и новые риски. По мере расширения интеграции ИИ растет и количество связанных с ними инцидентов, которые могут иметь серьезные последствия, как и для отдельных лиц, так для и общества в целом.За последние годы наблюдается значительный рост числа зарегистрированных инцидентов с участием ИИ. Согласно данным AI Index Report 2025 [1, c. 167], количество зарегистрированных инцидентов достигло рекордного показателя в 233 случая в 2024 году, что на 56,4% больше по сравнению с 2023 годом. Этот рост, вероятно, отражает не только расширение использования ИИ, но и повышение осведомленности общественности о его влиянии, так как более широкое знакомство с ИИ может также способствовать более частому появлению сообщений об инцидентах в соответствующих базах данных.Одной из основных баз данных инцидентов с участием ИИ, на которую вышеупомянутый доклад ссылается, является AI Incident Database (AIID) [2]. Она была создана для систематического выявления, определения и каталогизирования инцидентов с искусственным интеллектом.В данной статье представлен анализ инцидентов с участием ИИ на основе данных из AIID, включая тенденции роста инцидентов, их классификацию по категориям и типам вреда, а также их географическое распределение. В ходе работы были собраны данные о 1005 инцидентах.Проведенный анализ базы данных инцидентов выявил несколько ключевых категорий происшествий, связанных с применением технологий искусственного интеллекта. Наиболее распространенными являются инциденты, связанные с алгоритмической дискриминацией, нарушением приватности, безопасностью автономных транспортных средств и злоупотреблением генеративным ИИ.Значительное количество инцидентов связано с расовой и гендерной предвзятостью алгоритмов. Например, несколько случаев неправомерных арестов из-за ошибок в системах распознавания лиц, которые непропорционально затрагивают темнокожих граждан. Такие инциденты указывают на системные проблемы в обучающих данных и алгоритмах, которые требуют особого внимания со стороны регуляторов.Другую крупную категорию составляют происшествия с автономными транспортными средствами. В базе содержатся многочисленные случаи аварий с участием автомобилей Tesla на автопилоте, что свидетельствует о необходимости более строгого регулирования технологий автономного вождения и четкого определения ответственности производителей.Анализ временного распределения инцидентов (таблица 1) показывает отчетливую тенденцию к увеличению их количества с 2021-2022 годов. Это совпадает с периодом активного развития и внедрения генеративных моделей ИИ. Если ранние инциденты (2015-2019) преимущественно касались систем распознавания образов и автоматизированных систем принятия решений, то в 2022-2023 они чаще связаны с генеративным ИИ, deepfake и большими языковыми моделями. В последние 2 года (2024-2025) дипфейки и дезинформация, генерируемая ИИ, продолжают подрывать общественное доверие по всему миру. Например, среди значимых недавних инцидентов отмечено распространение дезинформации на испанском языке с помощью моделей ИИ, дипфейк-аудио с якобы признанием бывшего президента Байдена о политическом кризисе в Пакистане.Таблица 1. Распределение инцидентов по годам. Примечательно появление новой категории инцидентов, связанных с генерацией дезинформации и подделкой медиаконтента (таблица 2). Например, случаи создания deepfake-видео и аудио для мошенничества.Таблица 2. Категории инцидентов. Компании, наиболее часто фигурирующие в инцидентах (таблица 3), включают технологических гигантов: FB, Google, OpenAI, Amazon и Tesla. Например, FB неоднократно фигурирует в инцидентах с алгоритмической модерацией контента и рекомендательными системами. OpenAI, как разработчик ChatGPT, столкнулась с проблемами генерации неточной информации и утечки персональных данных.Таблица 3. Ключевые разработчики ИИ фигурирующие в инцидентах. Среди категорий жертв ИИ инцидентов (таблица 4) "Прочие" составляет наибольшую долю пострадавших – 25% (250 человек). Это указывает на широкое распространение дипфейк-атак за пределами традиционно рассматриваемых групп риска. Политические деятели занимают второе место с 22% (221 человек). Это соответствует мировым тенденциям, где 89% обнаруженных дипфейков связаны с политической сферой, силовыми структурами и государственной безопасностью.Женщины как жертвы дипфейк-видео составляют 18% (181 человек). Данная категория отражает серьезную проблему, учитывая, что согласно исследованиям, 90% дипфейков представляют собой порнографию с участием женщин.Таблица 4. Пострадавшие стороны.Географическое распределение инцидентов, связанных с ИИ (таблица 5):США (~45% инцидентов).США остаются крупнейшим рынком и разработчиком ИИ-технологий, а также одной из главных целей для кибератак и мошенничества с применением ИИ. Высокая цифровизация, развитый ИТ-сектор и большое количество компаний, использующих ИИ, делают США наиболее уязвимым регионом для таких инцидентов.Типичные инциденты:Массовые фишинговые кампании с применением генеративных моделей для персонализации атак.Использование дипфейков в политических целях и для компрометации публичных лиц.Крупные кибератаки на государственные и частные организации, например атаки через уязвимости в Microsoft Exchange Server и SolarWinds.Европа (~20% инцидентов)Европа сталкивается с быстрым ростом числа атак с применением ИИ, особенно в финансовом и технологическом секторах. Высокая концентрация капитала и данных делает европейские компании привлекательными целями.Типичные инциденты:Фишинговые атаки на банки и технологические компании.Кража интеллектуальной собственности у научных и исследовательских организаций.Использование дипфейков для дезинформации и шантажа.Азия (~15% инцидентов).Ключевыми странами в регионе явлются Китай, Индия, Южная Корея, Япония.Типичные инциденты:Использование ИИ для создания фишинговых кампаний на местных языках.Атаки на государственные и промышленные объекты.Законодательные инициативы по регулированию ИИ-контента (например, отдельный закон о дипфейках в Китае).Россия и СНГ (~20% инцидентов).Россия – основной центр активности в СНГ (73% атак на организации региона приходится на РФ). В 2024 году отмечен рост атак в 2,6 раза по сравнению с 2023 годом.Основными целями для атак являются госучреждения, промышленность, телекоммуникации. Часто используются социальная инженерия, вредоносное ПО, D_DoS-атаки.Таблица 5. Географическое распределение. Анализ базы данных инцидентов, связанных с искусственным интеллектом, показывает заметное увеличение числа случаев, в которых ИИ используется для создания дезинформации, манипуляций с медиаконтентом и обработки персональных данных. Особенно значительный рост таких инцидентов отмечается за последние два года, что отражает как расширение применения ИИ, так и повышение внимания к вопросам его этичного и безопасного использования.Ценность AIID заключается не только в предотвращении технических сбоев, но и в документировании закономерностей вреда и институциональных реакций и социального обучения в связи с инцидентами ИИ. Эти закономерности помогают лучшее понимание того, как общество адаптируется к новым технологиям ИИ и управляет ими.. В просвете разветвлений легочной артерии имеются тромботические массы серо - черного цвета, тусклые, шероховатые, полностью обтурирующие просвет.Органы пищеварения. Пищевод проходим на всем протяжении, слизистая оболочка его складчатая, серо-белесоватого цвета, с тусклостью и буроватым оттенком в кардиальном отделе. Желудок в форме крючка. Слизистая оболочка его рельефная, местами сглажена, темно-бордового цвета, пристеночно выстлана вязкой слизью. Петли тонкой и толстой кишок лежат свободно, умеренно раздуты газами. Сероза петель кишок гладкая, блестящая. Ширина тонкой кишки 3,0 см, толстой до 4,0 см. Слизистая оболочка тонкой кишки серо-розового цвета. Слизистая толстой кишки серо-белого цвета, складчатая. Печень размерами 29,0х 19,0х 15,0 х 7,0 см, массой 1620,0 гр, плотная, наружная поверхность гладкая, желтого цвета. На разрезах ткань желтого цвета.Мочеполовая система. Околопочечная жировая клетчатка удовлетворительно развита. Почки размерами по 12,0х5,0х4,5 см. Собственная капсула плотная, снимается с усилием, но без потери паренхимы. Поверхность почек мелкозернистая, темно-красного цвета. Ткань почек мягко-рыхлой консистенции. Граница между корковым и мозговым слоями четкая. + Почки на разрезе темно-красного цвета, подчеркнут рисунок пирамид. Чашечки и лоханки расширены их слизистая оболочка серо-белого цвета. Вокруг них умеренное разрастание жировой ткани. Так же в левой почке определяются множественные очаги желтого цвета диаметром от 0,2 до 0,5см. Мочеточники проходимы, слизистая серо-белого цвета, шириной 0,6 см. Мочевой пузырь размером 5,0х5,0х4,0 см, слизистая складчатая, бело-розового цвета, просвет пуст.Органы внутренней секреции. Щитовидная железа состоит из двух равновеликих долей размерами по 2,0х1,0х 1,0 см, с гладкой поверхностью. Ткань ее мясистая, на разрезах красная, однородная. Поджелудочная железа размерами 15,0х1,5х1,5см. Плотно-эластичной консистенции, на разрезе бело-желтого цвета. Надпочечники листовидной формы размерами по 4,0х2,5х0,4 см, на разрезе кора шириной до 0,2 см, желтого цвета, мозговой слой светло-коричневого цвета.Органы иммунной системы и кроветворения. Селезенка массой 250,0 гр, размерами 14,0x8,0х6,0 см, уплотнена. Капсула напряжена, серо-синюшного цвета. На разрезе ткань селезенки темно-вишневого цвета, соскоб дает обильный - кровянистый. Паратрахеальные и бифуркационные лимфатические узлы размером до 1,5,0х 1,5х 1,0 см, плотноватые на ощупь, на разрезе серо- черного цвета. Шейные, подмышечные, парааортальные, забрюшинные, брыжеечные, ворот печени, паховые и тазовые лимфатические узлы визуально и пальпаторно без особенностей, размерами 0,7х 0,5х 0,3 см, мягко-эластической консистенции, на разрезах однородно серо-белесоватого цвета.Произведен разрез кожи волосистой части головы от левого сосцевидного отростка к правому. Полость черепа вскрыта путем распила черепной коробки по неполной окружности головы. Кости черепа целые. Твердая мозговая оболочка синюшно-белесоватая, обычной толщины, малокровна. В синусах ее содержится жидкая темная кровь. Кости основания черепа целые.Центральная нервная система. Мягкая мозговая оболочка полупрозрачная, гладкая, влажно - блестящая, белесовато-розового цвета. Сосуды основания мозга тонкие и атеросклеротическими изменениями, стеноз 25%, проходимы. Головной мозг массой 1480,0 гр. Полушария симметричные, борозды и извилины несколько уплощены и сглажены. Боковые желудочки содержат прозрачную жидкость в общем количестве около 5,0 мл, эпендима их гладкая, блестящая. Сосудистые сплетения гроздьевидной формы, серо-синюшного цвета, неравномерно полнокровны. III и IV желудочки, водопровод проходимы,без особенностей.Вскрытие головного мозга произведено по способу Фишера после вскрытия его желудочков. Вещество головного мозга на разрезах серо-белого цвета, влажное, блестящее, незначительно липнет к ножу. Граница между серым и белым веществом четкая. Подкорковые узлы различимы хорошо. На поверхности разрезов выступает значительное количество мельчайших капель крови. В левом полушарии определяется кистозная полость диаметром 2,5 см. Сохранен древовидный рисунок мозжечка.Краткие клинические данные:Жалобы при поступлении: на головокружение, снижение АД, одышку при незначительной.физической нагрузке, озноб, общую слабость. На момент осмотра ангиозных болей нет.Анамнез заболевания:Со слов пациента порок сердца впервые выставлен в 2022 г. Состоит на диспансерном учете у терапевта по месту жительства. АГ с 2010г. Максимальное повышение АД 170/90 мм рт.ст.,адаптированный АД 120/80 мм рт.ст. Получил стационарное лечение с 27.08.2023г по 14.07.2023г. с диагнозом: Ревматическая болезнь сердца.Стеноз и недостаточность аортального клапана 1-2степени. Недостаточность митрального клапана 1-2степени. Расширение восходящей части аорты. Состоит на Д учете в поликлинике.РК. Данное ухудшение пациента в течение 3- х дней, в виде одышки при незначительной физической нагрузке, снижение АД до 90/60 мм рт.ст., общую слабость, в связи с чем обратился в больницу. Осмотрен дежурным врачом, проведены обследования. Учитывая жалобы, лабораторно-инструментальные данные, по состоянию пациент в сопровождении врача приемного покоя транспортирован в приемный покой в городской больнице с диагнозом ОКС.тяжести состояния пациент госпитализирован в ОРИТ.Инструментальные методы исследования:ЭКГ (20.10.2024г.): Синусовая тахикардия с ЧСС 59 уд /мин.Горизонтальное положение.ЭОС. Полная АВ блокада.Эхокардиография (20.10.2024г.): В динамике: Пациент на ИВЛ, на тонической поддержке.Состояние после протезирования АК механическим протезом. ФВ по Симпсону 54 %. КДО.157 мл. Диссинхрония МЖП.УЗИ плевры и плевральной полости (20.10.2021г.): Слева-нет, справа- нет.Взято кусочков для патологического исследования: 20.Изготовлено блоков: 20.Взят материал для других методов исследования: не взяты.Результаты гистологического исследования:18.11.2024 г.Головной мозг. Выраженный периваскулярный и перицеллюлярный отек.Сердце. При микроскопическом исследовании в миокарде отмечается гипертрофия, разволокнение и фрагментация кардиомиоцитов а также разрастание грануляционной ткани.На аортальном клапане определяется диффузная лейкоцитарная инфильтрация с фибриноидным некрозом. Интрамуральные сосуды полнокровные, стенки их утолщены за счет склероза. Периваскулярно отмечается разрастание соединительной и жировой ткани.Легкие. В образцах легкого определяются массивный некроза пропитанные кровью.Вокруг зоны некроза в альвеолах серозная жидкость и лейкоциты в не большом количестве, слущенные клетки альвеолярного эпителия. Местами отмечается некроз перегородок. В просвете разветвлений легочной артерии выявляются тромбы, состоящие из эритроцитов, лейкоцитов. Эпителий бронхов десквамирован в просвет.Почки. Некроз эпителий канальцев. Очаговая лимфо - лейкоцитарная инфильтрация стромы и атрофия отдельных канальцев.Поджелудочная железа. Отмечается разрастание соединительной и жировой ткани строме, вокруг сосудов и протоков. Имеются мелкие фокусы гомогенизации паренхимы железы. В сосудах полнокровия.Печень. Венозное полнокровие, центролобулярные кровоизлияния, атрофия и некроз центральных гепатоцитов.Селезенка. Резкое полнокровие красной пульпы. Лимфоидные фолликулы единичные, мелких размеров, без четких контуров и свтелых центров.Обсуждение:1. Инфекционный эндокардит (ИЭ).Инфекционный эндокардит — это воспаление эндокарда, чаще всего затрагивающее клапаны сердца, вызванное бактериальной инфекцией. Это серьезное заболевание, которое может привести к разрушению клапанов, тромбообразованию, эмболиям и сердечной недостаточности. Обычно инфекционный эндокардит развивается на фоне бактериальных инфекций, таких как Staphylococcus aureus или Streptococcus viridans [7].2. Протезирование аортального клапана механическим протезом.Протезирование аортального клапана с установкой механического протеза — это хирургическая процедура, применяемая для лечения аортального стеноза или недостаточности, особенно у пациентов с тяжелыми поражениями клапана. Использование механического протеза может увеличивать риск развития инфекционного эндокардита, особенно в первые годы после операции. Пациенты с механическими клапанами должны получать антибактериальную профилактику перед операциями или процедурами, связанными с высоким риском инфекции.3. Синусовая брадикардия.Синусовая брадикардия — это замедление сердечного ритма, при котором частота сердечных сокращений (ЧСС) ниже 60 ударов в минуту. Этот тип аритмии может наблюдаться при многих состояниях, включая инфекционный эндокардит (особенно при поражении проводящей системы сердца), а также на фоне хронической сердечной недостаточности (ХСН). В случае протезирования аортального клапана на фоне таких состояний важно учитывать возможности для развития аритмий и соответствующие изменения в лечении.4. Антибактериальная терапия (цефтиаксон, цефуроксим, меропенем, линезолид).Для лечения инфекционного эндокардита обычно используется антибактериальная терапия с учетом чувствительности возбудителя. В зависимости от тяжести заболевания, могут применяться:Цефтиаксон и цефуроксим — антибиотики широкого спектра действия, которые активны против большинства грамположительных и грамотрицательных бактерий.Меропенем — карбапенем, эффективный против более широкого спектра микроорганизмов, в том числе устойчивых к другим антибиотикам.Линезолид — антибиотик из класса оксазолидинонов, эффективный против устойчивых к метициллину стафилококков и стрептококков, а также используется при терапии внутрибольничных инфекций.Эти антибиотики могут использоваться в комбинации в зависимости от тяжести заболевания и чувствительности микроорганизмов. При инфекционном эндокардите важно начать терапию как можно раньше, поскольку инфекция может быстро привести к серьезным осложнениям [9].5. ТЭЛА (тромбоэмболия легочной артерии).ТЭЛА может быть осложнением инфекционного эндокардита, особенно если происходит тромбообразование на поврежденных клапанах. Тромбоэмболия может привести к легочной гипертензии и острым дыхательным нарушениям. Риски ТЭЛА также увеличиваются у пациентов с механическими клапанами, которые могут образовывать эмболы, особенно в период активной инфекции или после хирургического вмешательства [10].6. Сахарный диабет.Сахарный диабет (СД) является значимым фактором риска для развития инфекционного эндокардита, а также может ухудшить прогноз лечения, снижая иммунный ответ организма. У пациентов с декомпенсированным сахарным диабетом высок риск инфекционных осложнений, в том числе на фоне протезирования клапанов. СД может также способствовать развитию тромбоэмболий и снижать эффективность антибиотиков, что делает лечение инфекционного эндокардита более сложным.7. Хроническая сердечная недостаточность (ХСН) с сохранной фракцией выброса.Хроническая сердечная недостаточность с сохранной фракцией выброса (ХСН) встречается у пациентов с инфекционным эндокардитом, когда нарушение работы сердца обусловлено не столько нарушением фракции выброса, сколько дисфункцией клапанов или нарушениями ритма. Это состояние требует комплексного подхода в лечении, включая как медикаментозную терапию, так и контроль за состоянием клапанов. В случае протезирования аортального клапана наличие ХСН может ухудшить прогноз и повышает риск осложнений [11].8. Повышение СОЭ и нейтрофильный лейкоцитоз.Повышение СОЭ (скорости оседания эритроцитов) и нейтрофильный лейкоцитоз — это лабораторные маркеры воспаления, которые часто наблюдаются при инфекционном эндокардите. Эти показатели могут свидетельствовать о развитии инфекции или воспаления в организме. СОЭ и количество лейкоцитов могут служить индикаторами эффективности антибактериальной терапии: снижение этих показателей после начала лечения указывает на успешное подавление инфекции.9. Повышение МНО (международное нормализованное отношение).У пациентов с механическими протезами клапанов повышение МНО может свидетельствовать о нарушении свертываемости крови, что требует корректировки дозы антикоагулянтов. Механические клапаны требуют постоянного применения антикоагулянтной терапии для предотвращения тромбообразования. У таких пациентов также важно следить за уровнем МНО, чтобы избежать тромбообразования (в случае недостаточного антикоагулянтного эффекта) или, наоборот, склонности к кровотечениям (при слишком высоком уровне МНО) [12].10. Вегетация на аортальном клапане по УЗИ сердца.Вегетации — это массы на клапанах, которые могут быть видны на эхокардиографии, и являются характерным признаком инфекционного эндокардита. Вегетации могут привести к разрушению клапана, образованию тромбов и эмболам. В случае протезирования аортального клапана механическим протезом наличие вегетаций на искусственном клапане может указывать на развитие инфекции и требует немедленного начала антибактериальной терапии [13].Заключение:Совмещение таких факторов, как инфекционный эндокардит, протезирование клапанов, сахарный диабет, хроническая сердечная недостаточность и наличие лабораторных признаков воспаления, требует внимательного подхода к диагностике и лечению. Антибактериальная терапия, мониторинг МНО, коррекция сердечной недостаточности и контроль за развитием тромбоэмболических осложнений — все это важные составляющие комплексного подхода к лечению таких пациентов.На основании обсуждения можно сделать следующие выводы:1. Инфекционный эндокардит (ИЭ) представляет собой серьезное инфекционное заболевание, которое может развиваться как на естественных клапанах сердца, так и на механических протезах, таких как аортальный клапан. У пациентов с механическими клапанами особенно высок риск инфицирования, что требует особого внимания к антибактериальной профилактике и раннему началу лечения при подозрении на ИЭ [7].2. Протезирование аортального клапана механическим протезом увеличивает риск инфекционных осложнений, таких как инфекционный эндокардит, и требует постоянного наблюдения за состоянием пациента, включая регулярные эхокардиографические исследования для обнаружения вегетаций на клапанах. Также важно соблюдать рекомендации по антибактериальной профилактике и контролю свертываемости крови, поскольку такие пациенты находятся на длительной антикоагулянтной терапии [8].3. Синусовая брадикардия, как признак нарушения проводящей системы сердца или сердечной недостаточности, требует особого внимания, особенно у пациентов с механическими клапанами или сердечными заболеваниями. Это состояние может быть как следствием инфаркта миокарда или эндокардита, так и самостоятельным заболеванием, нуждающимся в коррекции.4. Антибактериальная терапия играет ключевую роль в лечении инфекционного эндокардита. Антибиотики, такие как цефтриаксон, цефуроксим, меропенем и линезолид, должны быть выбраны в зависимости от чувствительности возбудителя и тяжести заболевания. Учитывая высокие риски осложнений, важно использовать антибиотики с широким спектром действия на начальных этапах, а затем скорректировать лечение в зависимости от результатов посевов [9].5. Тромбоэмболия легочной артерии (ТЭЛА) и повышение СОЭ являются возможными осложнениями при инфекционном эндокардите, особенно если присутствуют вегетации на клапанах, что может привести к эмболиям. Эффективное лечение ИЭ и снижение воспаления помогают снизить эти риски [10].6. Хроническая сердечная недостаточность (ХСН), даже с сохраненной фракцией выброса, может осложнять течение инфекционного эндокардита и требовать комплексного подхода в лечении. Пациенты с ХСН могут иметь более высокий риск развития как инфекционных осложнений, так и осложнений со стороны системы кровообращения, таких как тромбообразование и гипотензия [11].7. Повышение МНО, нейтрофильный лейкоцитоз и вегетации на аортальном клапане — это важные клинические и лабораторные маркеры, которые могут свидетельствовать о развитии инфекции или осложнений. Повышение МНО у пациентов с механическими клапанами требует тщательного мониторинга и коррекции дозы антикоагулянтов, чтобы избежать тромбообразования и кровотечений [12].Номер журнала Вестник науки №6 (87) том 4
Ссылка для цитирования:
Минченко Е.А. АНАЛИЗ СТАТИСТИКИ ИНЦИДЕНТОВ С УЧАСТИЕМ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА БАЗЫ ДАННЫХ AI INCIDENT DATABASE // Вестник науки №6 (87) том 4. С. 1224 - 1230. 2025 г. ISSN 2712-8849 // Электронный ресурс: https://www.вестник-науки.рф/article/24693 (дата обращения: 13.12.2025 г.)
Вестник науки © 2025. 16+