MIT Technology Review Insights

Произведено в партнерстве с Boomi

Для реализации амбиций в области ИИ организации должны перейти от пилотных и экспериментальных проектов к полномасштабному корпоративному внедрению.

A playbook for crafting AI strategy

Введение

"Руководство по разработке стратегии в области ИИ" — это отчет MIT Technology Review Insights, спонсированный Boomi. Для подготовки этого отчета MIT Technology Review Insights провел глобальный опрос руководителей высшего звена и старших руководителей по данным в различных странах и отраслях. Отчет также основан на подробных интервью с бизнес-лидерами, специализирующимися на данных и ИИ.

Автором отчета является Адам Грин, редактором — Тереза Элси, а издателем — Никола Крепальди. Исследование является редакционно независимым, и выраженные в нем мнения принадлежат MIT Technology Review Insights.

Мы хотели бы поблагодарить следующих руководителей и экспертов за их время и идеи:

  • Кевин Коллинз, основатель и главный исполнительный директор Charli AI
  • Эми Мачадо, старший менеджер по исследованиям IDC
  • Мэтт МакЛарти, главный технический директор Boomi
  • СП Сингх, старший вице-президент и глобальный руководитель отдела интеграции корпоративных приложений и сервисов Infosys

Об исследовании

Исследование, легшее в основу этого отчета, было проведено MIT Technology Review Insights в марте 2024 года. Выборка опроса состояла из 205 руководителей и лидеров в области данных и технологий. Были представлены одиннадцать отраслей: финансовые услуги, производство, ИТ и телекоммуникации, потребительские товары и розничная торговля, фармацевтика и здравоохранение, государственное управление, транспорт и логистика, профессиональные услуги, энергетика и коммунальные услуги, а также медиа и маркетинг.

Почти все респонденты (88%) относятся к топ-менеджменту. Среди них: главные исполнительные директора (20%), главные информационные директора (18%), главные технические директора (19%) и главные директора по данным (15%). Организации респондентов базируются в Северной Америке (31%), Европе, на Ближнем Востоке и в Африке (25%), Азиатско-Тихоокеанском регионе (26%), а также в Центральной и Южной Америке (18%). Все респонденты работают в организациях с годовым мировым доходом более 500 миллионов долларов США, причем 73% представляют организации с доходом более 1 миллиарда долларов США, а 34% — более 10 миллиардов долларов США.

Краткое изложение

"Ни одна работа, ни одна функция не останутся незатронутыми ИИ."

СП Сингх, старший вице-президент и глобальный руководитель отдела интеграции корпоративных приложений и сервисов Infosys

Оптимистичные прогнозы относительно ИИ, от его вклада в экономический рост до начала массовой автоматизации, теперь столь же часты, как и выпуск новых мощных генеративных моделей ИИ. Консалтинговая компания PwC, например, прогнозирует, что ИИ может увеличить мировой валовой внутренний продукт (ВВП) на 14% к 2030 году, генерируя 15,7 триллиона долларов США.¹

Сорок процентов наших рутинных задач могут быть автоматизированы к тому времени, утверждают исследователи из Оксфордского университета, в то время как Goldman Sachs прогнозирует 200 миллиардов долларов США инвестиций в ИИ к 2025 году.²,³ "Ни одна работа, ни одна функция не останутся незатронутыми ИИ", — говорит СП Сингх, старший вице-президент и глобальный руководитель отдела интеграции корпоративных приложений и сервисов в технологической компании Infosys.

Хотя эти прогнозы могут оказаться верными, современные компании сталкиваются с серьезными препятствиями при переходе от пилотных проектов и экспериментов к полномасштабному внедрению ИИ. Например, только 5,4% американских компаний использовали ИИ для производства продукта или услуги в 2024 году.⁴

Переход от первоначальных шагов в использовании ИИ, таких как генерация кода и обслуживание клиентов, к интеграции на уровне всей компании зависит от стратегических и организационных переходов в инфраструктуре, управлении данными и экосистемах поставщиков. Кроме того, организации должны взвесить неопределенности, связанные с развитием производительности ИИ и способами измерения рентабельности инвестиций.

Однако, если организации стремятся масштабировать ИИ по всему бизнесу в ближайшие годы, сейчас самое время действовать. Этот отчет исследует текущее состояние корпоративного внедрения ИИ и предлагает руководство по разработке стратегии в области ИИ, помогая бизнес-лидерам преодолеть пропасть между амбициями и исполнением. Основные выводы включают следующее:

Амбиции в области ИИ значительны, но немногие вышли за рамки пилотных проектов. Полностью 95% опрошенных компаний уже используют ИИ, и 99% ожидают использовать его в будущем. Но немногие организации вышли за рамки пилотных проектов: 76% внедрили ИИ всего в одном-трех сценариях использования. Но поскольку половина компаний ожидают полностью внедрить ИИ во всех бизнес-функциях в течение двух лет, этот год является ключевым для закладки основ корпоративного ИИ.

Расходы на готовность к ИИ запланированы к значительному росту. В целом, расходы на ИИ в 2022 и 2023 годах были скромными или оставались на прежнем уровне для большинства компаний, причем только каждая четвертая увеличила свои расходы более чем на четверть. В 2024 году ситуация изменится: девять из десяти респондентов ожидают увеличить расходы на готовность к данным для ИИ (включая модернизацию платформ, миграцию в облако и качество данных) и в смежных областях, таких как стратегия, культурные изменения и бизнес-модели. Четыре из десяти ожидают увеличить расходы на 10-24%, а одна треть – на 25-49%.

Ликвидность данных является одним из наиболее важных атрибутов для внедрения ИИ. Способность беспрепятственно получать доступ, объединять и анализировать данные из различных источников позволяет фирмам эффективно извлекать соответствующую информацию и применять ее к конкретным бизнес-сценариям. Это также устраняет необходимость просеивать огромные хранилища данных, поскольку данные уже курируются и адаптированы к поставленной задаче.

Качество данных является серьезным ограничением для внедрения ИИ. Половина респондентов называют качество данных наиболее ограничивающим фактором при внедрении. Это особенно актуально для крупных фирм с большим объемом данных и значительными инвестициями в устаревшую ИТ-инфраструктуру. Компании с доходом более 10 миллиардов долларов США с наибольшей вероятностью указывают как на качество данных, так и на инфраструктуру данных в качестве ограничителей, предполагая, что организации, обладающие крупными хранилищами данных, сталкиваются с этой проблемой значительно острее.

Управление, безопасность и конфиденциальность являются самым большим тормозом на пути внедрения ИИ, о чем заявили 45% респондентов.

Компании не торопятся с внедрением ИИ. Почти все организации (98%) заявляют, что готовы отказаться от преимущества первопроходца в использовании ИИ, если это гарантирует его безопасное и надежное внедрение. Управление, безопасность и конфиденциальность являются самым большим тормозом на пути внедрения ИИ, о чем заявили 45% респондентов (и целых 65% респондентов из крупнейших компаний).

Партнерство для успеха

В эпоху ИИ мало компаний действуют в одиночку. Стоимость и сложность создания больших языковых моделей (LLM) и генеративных моделей с нуля непомерно высоки, и на рынке уже имеется множество платформ и инструментов. "Для большинства организаций создание собственных больших языковых моделей очень дорого, а их ценность ограничена по времени", — говорит Кевин Коллинз, основатель и главный исполнительный директор Charli AI, поставщика ИИ-решений. "Если у вас нет необходимой экспертизы и ресурсов для значительных инвестиций, лучше тонко настраивать и оптимизировать готовые модели."

ИИ также все чаще интегрируется в существующие программные платформы, включая те, что предоставляют гигантские технологические компании, такие как Microsoft и Adobe. "Мы внедряем ИИ во все, что делаем внутри нашей организации, и аналогично применяем этот подход к нашим клиентам", — говорит СП Сингх из Infosys. Компании, конечно, также могут платить за использование проприетарных моделей от поставщиков, таких как OpenAI, или тонко настраивать эти модели по мере необходимости. Они также могут создавать свои собственные генеративные ИИ-инструменты с использованием открытого исходного кода.


Разрабатывает ли ваша организация следующие типы сценариев использования ИИ? (Организации, которые разрабатывают сценарии использования ИИ.)

◼ Сценарии использования, распространенные в различных отраслях (например, генеративный ИИ для генерации текста или чат-боты)

◼ Сценарии использования, специфичные для нашей отрасли (например, ИИ для открытия лекарств)

◼ Сценарии использования, уникальные для нашего бизнеса


Таблица/Диаграмма с данными Figure 1

В целом: Распространенные 52%, Специфичные для отрасли 79%, Уникальные для бизнеса 61%

Компании с годовым доходом от $500 млн до $1 млрд: Распространенные 38%, Специфичные для отрасли 57%, Уникальные для бизнеса 77%

Компании с годовым доходом от $1 млрд до $10 млрд: Распространенные 53%, Специфичные для отрасли 84%, Уникальные для бизнеса 63%

Компании с годовым доходом более $10 млрд: Распространенные 48%, Специфичные для отрасли 75%, Уникальные для бизнеса 77%

Источник: опрос MIT Technology Review Insights, 2024

Мэтт МакЛарти, главный технический директор в компании Boomi, соглашается, что построение LLM не станет путем вперед для большинства компаний. "Большинство организаций не будут строить большие языковые модели, которые дороги и требуют массивной инфраструктуры", - говорит он. "Вместо этого им нужно стать экспертами в применении новых технологий в собственном бизнес-контексте. Компании, которые не поставят телегу ИИ впереди лошади бизнес-проблемы, будут лучше позиционированы."

Результаты нашего опроса показывают, что компании следуют этому совету, ища сценарии использования ИИ, которые решают их уникальные бизнес-проблемы. В то время как многие фирмы внедряют универсальные применения ИИ (например, чат-боты на основе генеративного ИИ для обслуживания клиентов), большая часть заявляет, что разрабатывает отраслевые сценарии использования или даже сценарии использования, уникальные для их конкретного бизнеса (см. Рисунок 1).

Секторальные нюансы, включая различия в форматах данных, регуляторные требования и способы использования, подтверждают необходимость отраслевых подходов к ИИ. От инструментов ИИ, разработанных для документирования разговоров между пациентами и врачами, до инструментов, используемых для оптимизации отделки гипсокартона, предложения, адаптированные к потребностям конкретных отраслей или бизнесов, скорее всего, принесут революционные результаты.⁵,⁶

Выбор поставщика

У компаний есть множество поставщиков ИИ на выбор; если уж на то пошло, выбор может быть пугающим для руководителей, которые должны балансировать стоимость, безопасность и диверсификацию. "Это кажется ошеломляющим для компаний — очень много шума и вопросов о том, кому доверять", — говорит Эми Мачадо, старший менеджер по исследованиям в IDC, фирме, занимающейся исследованием рынка.

По соображениям конфиденциальности многие опасаются полагаться на общедоступные инструменты ИИ, которые могут сохранять и повторно использовать данные, введенные пользователями, причем некоторые компании ограничивают использование определенных LLM сотрудниками.⁷,⁸ "Если вы передаете свои данные универсальному ИИ, вам нужно провести должную проверку того, как они обрабатывают ваши данные и что делают с ними 'за кулисами'", — говорит Коллинз. Более специализированные инструменты на основе LLM с большей вероятностью защитят проприетарные данные организаций, будут поставляться с поддержкой и регулярно обновляться для устранения уязвимостей.

В конечном итоге, руководители могут обнаружить, что создание "мульти-ИИ" среды наилучшим образом отвечает их бизнес-потребностям и учитывает отличительные ценностные предложения различных поставщиков.

ИИ, дружественный к финансам

Фирмы, предоставляющие финансовые услуги, работают в высокорегулируемой среде с высокими стандартами конфиденциальности данных, соответствия и безопасности. "В секторе финансовых услуг доверие и безопасность имеют первостепенное значение", — говорит Кевин Коллинз из Charli AI. "Наши клиенты — это крупные инвестиционные банки, хедж-фонды и большие банки, которые анализируют компании из списка S&P 500. Все, что мы делаем, должно быть надежным и проверенным фактами".

В финансовых услугах ценная информация часто хранится в контрактах, юридических документах, PDF-файлах, электронных таблицах и презентациях PowerPoint. Извлечение и интеграция этих данных для анализа может быть сложной задачей. Специализированные сервисы, такие как Charli AI, открыли новые возможности для разблокирования этих "запертых" данных: инструменты компании извлекают и курируют ряд финансовых данных, освобождая время аналитиков для выполнения более высокоценных задач.

"Новый ИИ способен понимать 'запертый' контент гораздо лучше, чем когда-либо прежде, поэтому мы разблокируем 'золотую жилу'", — говорит Коллинз. "Наши клиенты называют нас автоматизированными аналитиками с Уолл-стрит — мы можем сделать за 30 минут то, на что аналитику потребовалось бы 80 часов, корпя над 500-страничным отчетом SEC."

В то время как компании осознают потенциальную ценность своих данных, многим трудно эффективно их использовать. "Они очень грамотны в работе с данными, но также понимают, насколько сложно получить эти данные в формате, пригодном для аналитики и ИИ", — говорит Коллинз.

Наше исследование показало, что респонденты из финансового сектора наименее склонны в настоящее время разрабатывать ИИ для отраслевых сценариев использования, но такие компании, как Charli, стремятся изменить это.

Подсчет затрат

От требований к электроэнергии для построения и запуска моделей ИИ до программного обеспечения, услуг и зарплат, необходимых для управления решениями в масштабе, стоимость является важным фактором при рассмотрении ИИ. 8 миллиардов долларов США расходов Google в третьем квартале 2023 года были в подавляющем большинстве обусловлены ИИ.⁹ Тренировка GPT-4 от OpenAI потребовала 78 миллионов долларов США вычислительных ресурсов, в то время как Gemini Ultra от Google имела стоимость вычислений 191 миллион долларов США.¹⁰

Оборудование является основным источником ценовой неопределенности, включая спрос на графические процессоры (GPU). "ИИ очень дорог, не только для разработки и обучения моделей, но и для операций и аппаратных затрат, особенно GPU", — говорит Коллинз. Новые GPU дороже, их труднее получить, и у них ограниченный срок службы, что требует периодических капитальных затрат. Он добавляет: "ИИ недешев. Многие наши клиенты шокированы, когда осознают, сколько инфраструктуры им необходимо иметь, чтобы получить нужную производительность".

В то время как технологические компании в основном несут расходы на аппаратное обеспечение и вычисления в своей гонке за господство на рынке, фирмы неизбежно сталкиваются со своими собственными расходами в таких областях, как управление данными и мониторинг, которые редко встроены в менее дорогие универсальные LLM. Они также должны инвестировать, чтобы обеспечить соответствие фирменным нормам, финансировать обслуживание, чтобы системы, которые они строят, оставались актуальными и релевантными для сценария использования, и платить за увеличенное потребление энергии ИИ.¹¹ Расходы на таланты включают либо найм квалифицированных специалистов по ИИ, либо повышение квалификации существующего персонала.


Как изменились инвестиции вашей организации в готовность к ИИ за последний год (с 2022 по 2023 год)?

Инвестиции, связанные с данными (модернизация платформ, миграция в облако, конвейеры, качество и т. д.)

Инвестиции в другие области (разработка стратегии ИИ, культурные изменения, построение моделей и т. д.)


Таблица/Диаграмма с данными Figure 2

Инвестиции, связанные с данными: Увеличились более чем на 100% (1%), Увеличились на 50%-100% (6%), Увеличились на 25%-49% (20%), Увеличились на 10%-24% (34%), Почти не изменились (34%), Снизились (4%)

Инвестиции в другие области: Увеличились более чем на 100% (1%), Увеличились на 50%-100% (6%), Увеличились на 25%-49% (18%), Увеличились на 10%-24% (42%), Почти не изменились (34%), Снизились (0%)


Компании с доходом более $10 млрд: Как изменились инвестиции вашей организации в готовность к ИИ за последний год (с 2022 по 2023 год)?

Инвестиции, связанные с данными (модернизация платформ, миграция в облако, конвейеры, качество и т. д.)

Инвестиции в другие области (разработка стратегии ИИ, культурные изменения, построение моделей и т. д.)


Таблица/Диаграмма с данными Figure 3

◼ Увеличились более чем на 100%

◼ Увеличились на 50%-100%

◼ Увеличились на 25%-49%

◼ Увеличились на 10%-24%

◼ Почти не изменились

◼ Снизились

Инвестиции, связанные с данными: 1% (Увеличились более чем на 100%), 11% (Увеличились на 50%-100%), 20% (Увеличились на 25%-49%), 26% (Увеличились на 10%-24%), 35% (Почти не изменились), 27% (Снизились)

Инвестиции в другие области: 1% (Увеличились более чем на 100%), 9% (Увеличились на 50%-100%), 29% (Увеличились на 25%-49%), 42% (Увеличились на 10%-24%), 18% (Почти не изменились), 1% (Снизились)

Источник: опрос MIT Technology Review Insights, 2024

Бюджетные ограничения стали самым большим препятствием на пути быстрого внедрения ИИ для средних фирм (годовой доход от 500 миллионов до 1 миллиарда долларов США), причем 47% ссылаются на этот вопрос по сравнению со средним показателем по опросу в 22%. Это указывает на "сжатую середину" компаний, которым необходимо внедрить ИИ, чтобы оставаться конкурентоспособными на своих рынках, но для которых затраты непомерны.

Ожидания по расходам

Опросы показывают, что крупные фирмы по доходу более склонны к производственному использованию ИИ, что свидетельствует о том, что финансовые ограничения могут замедлять меньшие и средние компании.¹² Анализ CCS Insights предполагает, что стоимость будет способствовать замедлению внедрения генеративного ИИ в течение 2024 года.¹³ По мере того, как ажиотаж спадает, лица, принимающие решения, могут стать более осторожными, особенно поскольку выгоды от производительности генеративного ИИ могут не быть очевидны в течение многих лет.¹⁴

Эти выводы подтверждаются нашим опросом, который выявил связь между размером компании и расходами.

На сегодняшний день большинство фирм сохранили расходы на готовность к ИИ на прежнем уровне, при этом крупные компании с большей вероятностью нарастили их (см. Рисунки 2 и 3).

Однако почти все компании ожидают увеличить расходы в следующем году: 9 из 10 ожидают увеличить инвестиции как минимум на 10%, а треть прогнозирует увеличение расходов до 49% как в области данных, так и в смежных областях, таких как стратегия и культурные изменения (см. Рисунок 4).

"ИИ недешев. Многие наши клиенты шокированы, когда осознают, сколько инфраструктуры им необходимо иметь, чтобы получить нужную производительность."

Кевин Коллинз, основатель и главный исполнительный директор Charli AI


Как изменились инвестиции вашей организации в готовность к ИИ в следующем году (с 2023 по 2024 год)?

Инвестиции, связанные с данными (модернизация платформ, миграция в облако, конвейеры, качество и т. д.)

Инвестиции в другие области (разработка стратегии ИИ, культурные изменения, построение моделей и т. д.)


Таблица/Диаграмма с данными Figure 4

◼ Увеличится более чем на 100%

◼ Увеличится на 50%-100%

◼ Увеличится на 25%-49%

◼ Увеличится на 10%-24%

◼ Останется почти без изменений

◼ Снизится

Инвестиции, связанные с данными: 1% (Увеличится более чем на 100%), 10% (Увеличится на 50%-100%), 11% (Увеличится на 25%-49%), 41% (Увеличится на 10%-24%), 37% (Останется почти без изменений), 0% (Снизится)

Инвестиции в другие области: 1% (Увеличится более чем на 100%), 9% (Увеличится на 50%-100%), 16% (Увеличится на 25%-49%), 40% (Увеличится на 10%-24%), 35% (Останется почти без изменений), 0% (Снизится)

Источник: опрос MIT Technology Review Insights, 2024

По мере того, как компании будут настраивать свои инвестиции в ИИ, динамика затрат на ИИ, конечно, также будет меняться. Инновации, несомненно, приведут к снижению затрат за счет повышения эффективности. Кривая затрат на вычисления также будет снижаться по мере того, как стартапы и крупные компании будут решать недостатки существующего оборудования и моделей.

Измерение рентабельности инвестиций

Чтобы взвесить финансовые затраты на ИИ, организации должны разработать надежные методики измерения рентабельности инвестиций (ROI), фиксирующие не только выгоды от повышения эффективности за счет автоматизации "повседневных" задач, но и новую ценность, которую может создать ИИ.

Компании уже оценивают экономию затрат от ИИ. Motorola разработала систему, которая отслеживает время, затрачиваемое на выполнение задачи с использованием генеративного ИИ и без него.¹⁵ Шведская финтех-компания Klarna уже подсчитала, что производительность генеративного ИИ эквивалентна работе 700 агентов службы поддержки клиентов.¹⁶ Но "мышление смещается в сторону использования ИИ как инструмента для роста выручки, а не просто экономии затрат", — говорит Мачадо.

По мере того, как сотрудники становятся более продуктивными, появляются новые возможности, которые может быть трудно измерить количественно. Например, ИИ позволяет аналитикам данных исследовать новые идеи и расширять ассортимент продуктов. Автоматизация рутинных задач при помощи "сопилотов" может снизить нагрузку и

"Мышление смещается в сторону использования ИИ как инструмента для роста выручки, а не просто экономии затрат."

Эми Мачадо, старший менеджер по исследованиям IDC

снизить выгорание, позволяя сотрудникам уделять больше времени более творческим и инновационным проектам.

По мере распространения корпоративного использования ИИ ожидания сотрудников изменятся, и улучшенный с помощью ИИ опыт на рабочем месте станет необходимым для привлечения талантов. Специалисты по ИИ уже имеют другие ожидания, чем традиционные соискатели, ставя интересное содержание работы и работу над передовыми проектами выше среди своих приоритетов.¹⁷

Консалтинговая компания PwC сравнивает "жесткую ROI", такую как сэкономленное время и повышение производительности, с "мягкой ROI", включая улучшенный опыт сотрудников и способность гибко реагировать на новые возможности.¹⁸ Точная оценка ROI ИИ требует метрик, выходящих за рамки традиционных финансовых показателей. Например, Коллинз отмечает, что инструменты, такие как Charli AI, открывают огромную ценность, помогая компаниям эффективнее обрабатывать свои данные.


Создание ядра данных

"ИИ — это наука и инструмент. Вам все равно придется проделать всю тяжелую работу по управлению данными и определению правильного применения этих инструментов."

Кевин Коллинз, основатель и главный исполнительный директор Charli AI

Качество данных, инфраструктура и управление имеют решающее значение для эффективного и масштабного выполнения рабочих нагрузок ИИ. В то время как технологии ИИ могут быть трансформационными, без надлежащих основ данных организации будут с трудом собирать нужные данные и получать из них ценную информацию. "Люди все еще воспринимают современный ИИ как магию или нечто сверхъестественное, а это далеко от истины", — говорит Коллинз. "ИИ — это наука и инструмент. Вам все равно придется проделать всю тяжелую работу по управлению данными и определению правильного применения этих инструментов."

Организации, которые упускают из виду эти поддерживающие аспекты, могут столкнуться с трудностями при успешном развертывании ИИ. Проблемы с качеством данных, названные половиной респондентов наиболее ограничивающей их проблемой с данными при развертывании, могут серьезно снизить производительность ИИ. "В дальнейшем разговор пойдет о том, как сделать данные 'ИИ-готовыми' и в правильном формате, чтобы эффективно их использовать", — говорит Мачадо. Инфраструктура или конвейеры данных, инструменты интеграции данных и миграция в облако также были упомянуты многими респондентами как основные барьеры для развертывания, что указывает на важность надежной ИТ-архитектуры.

Эти проблемы особенно актуальны для компаний с доходом более 10 миллиардов долларов США, которые с наибольшей вероятностью указывают как на качество данных (52%), так и на инфраструктуру данных (55%) в качестве препятствий, по сравнению со средними показателями по опросу в 49% и 44% (см. Рисунок 5). Организации, управляющие большими хранилищами данных и устаревшей ИТ-инфраструктурой, могут сталкиваться с большей сложностью и затратами при переходе на ИИ-готовую архитектуру.

Управление данными: Советы и тактики

  • Отслеживайте и управляйте происхождением данных вашей организации для поддержания качества и целостности данных по мере их перемещения от одной аналитической модели или приложения к следующей.
  • Оптимизируйте коммуникацию по всей организации относительно ИИ, а также агрегации и требований к данным, обеспечивая сотрудничество кросс-функциональных команд по бизнес-кейсам.
  • Вместо фокусировки на централизации данных, примите стратегию, которая приоритезирует контекстуализацию данных, например, извлечение метаданных и их хранение в соответствующем языке метаданных.
  • Определите ключевые возможности и компетенции вашей организации, убедившись, что вы способны адаптироваться к быстрым изменениям и не слишком зависите от устаревшей инфраструктуры.

Какие аспекты данных вашей организации наиболее ограничивают скорость внедрения ИИ?

◼ В целом

◼ Компании с годовым доходом от 500 миллионов до 1 миллиарда долларов США

◼ Компании с годовым доходом от 1 миллиарда до 10 миллиардов долларов США

◼ Компании с годовым доходом более 10 миллиардов долларов США


Таблица/Диаграмма с данными Figure 5

Качество данных: В целом 49%, $500 млн - $1 млрд 38%, $1 млрд - $10 млрд 38%, >$10 млрд 52%

Инфраструктура или конвейеры данных: В целом 44%, $500 млн - $1 млрд 26%, $1 млрд - $10 млрд 49%, >$10 млрд 55%

Инструменты интеграции данных: В целом 40%, $500 млн - $1 млрд 27%, $1 млрд - $10 млрд 41%, >$10 млрд 50%

Незавершенная миграция в облако: В целом 36%, $500 млн - $1 млрд 26%, $1 млрд - $10 млрд 41%, >$10 млрд 40%

Организационная культура или подход к данным: В целом 26%, $500 млн - $1 млрд 25%, $1 млрд - $10 млрд 34%, >$10 млрд 18%

Архитектура данных или платформа: В целом 24%, $500 млн - $1 млрд 17%, $1 млрд - $10 млрд 38%, >$10 млрд 18%

Регуляторные ограничения на работу с данными/использование: В целом 21%, $500 млн - $1 млрд 10%, $1 млрд - $10 млрд 38%, >$10 млрд 18%


Работа с устаревшей инфраструктурой

Переход от устаревшей ИТ-инфраструктуры может быть сложной задачей для организаций любого размера. "Устаревшие системы и безвозвратные затраты определенно являются тормозом для любых инициатив по управлению данными", — говорит Мачадо. "Многие организации не хотят трогать определенные устаревшие системы, потому что 'они как бы работают' и только один человек знает, как поддерживать эту старую технологию". Эти устаревшие системы часто основаны на фрагментированных, устаревших архитектурах и языках программирования, которые трудно интегрировать с современными решениями ИИ.

Чтобы получить преимущества от ИИ, организации должны разработать ИТ-архитектуру, способную обрабатывать как структурированные, так и неструктурированные данные на протяжении всего жизненного цикла, от источника до обработки, аналитики и хранения. Неструктурированные данные могут дать значительную информацию для систем ИИ, но их необработанную информацию может быть трудно интегрировать в существующие системы. Это может быть проблематично, поскольку, по словам Мачадо, 90% данных в корпоративной системе управления контентом неструктурированы.

Централизованное репозиторное решение в виде озера данных может быть полезным, но оно должно быть хорошо организовано и структурировано, чтобы не превратиться в хранилище нерелевантных и непригодных для использования данных. "Недостаточно просто иметь большое озеро данных, потому что оно превратится в болото данных; у вас должно быть хорошее управление происхождением данных и тем, как они перемещаются от одной модели к другой", — говорит Коллинз.

Почти половина (46%) респондентов также указывают на ручные, нецифровые или неавтоматизированные процессы обработки и управления данными как на ограничивающий фактор для внедрения ИИ. Без стратегий полной цифровизации процессов по всему бизнесу организации оставят ценные источники данных неиспользованными и ограничат потенциал автоматизации ИИ.

Происхождение и ликвидность данных

Решение о том, какие данные использовать, требует их повторной комбинации и контекстуализации. Внедрение отслеживания происхождения данных и мер по обеспечению качества может поддержать этот процесс контекстуализации, сохраняя целостность данных по мере их обработки и анализа.

По словам МакЛарти, ликвидность данных, или способность беспрепятственно получать доступ, объединять и анализировать данные из различных источников, является одним из наиболее важных активов организации в области ИИ. Ликвидность данных позволяет организациям понять взаимосвязи, зависимости и нюансы своих данных, enabling them to extract relevant information and apply it effectively to specific business scenarios. "Организации с высокой ликвидностью данных — способностью получать правильные данные в нужное время и в нужном месте — будут наиболее успешны с ИИ", — говорит МакЛарти.

Ликвидность данных помогает гарантировать, что данные легко доступны, пригодны для использования и могут быть переданы. Поддержание ликвидных активов данных требует гибкой, гармонизированной и масштабируемой ИТ-инфраструктуры, которая может беспрепятственно обрабатывать растущие объемы и разнообразие данных, не нарушая существующие операции.

Метаданные

Извлечение метаданных – или данных о данных – помогает контекстуализировать данные для использования в моделях ИИ. "Организации хотят понять свои данные заранее, чтобы увидеть, что ценно для реальных бизнес-целей, и метаданные объединяют все это, чтобы сделать это возможным", — говорит Мачадо.

В системе управления контентом источники данных из разных систем могут быть связаны общим языком метаданных, и, по словам Мачадо, важно выбрать язык, подходящий для конкретного сценария использования организации. Например, для обмена информацией о биологических образцах может быть рассмотрен язык Darwin Core. VRA Core используется для произведений визуальной культуры.

Курируя метаданные, предприятия могут использовать мощь своих ранее неиспользуемых неструктурированных данных. Этот подход позволяет им оптимизировать свои данные для решений ИИ, которые будут способствовать росту бизнеса.

"Организации с высокой ликвидностью данных — способностью получать правильные данные в нужное время и в нужном месте — будут наиболее успешны с ИИ."

Мэтт МакЛарти, главный технический директор Boomi

Ускорение против осторожности

Серьезным препятствием на пути быстрого внедрения ИИ является необходимость обеспечения надежных мер управления, безопасности и конфиденциальности, особенно в случае новых рисков, связанных с генеративным ИИ. Эти проблемы служат самым большим тормозом для скорости внедрения ИИ для 45% компаний - и для 65% компаний с доходом более 10 миллиардов долларов США. Эта разница может быть обусловлена повышенным профилем риска крупных организаций, включая их большие "поверхности атаки", что делает их более уязвимыми для потенциальных нарушений и регуляторного надзора.

Галлюцинации, ошибки и предвзятость

Генеративный ИИ связан с рядом новых рисков, включая предоставление неточной информации или "галлюцинаций"; юридические риски, такие как плагиат, нарушение авторских прав и ответственность за ошибки; проблемы с конфиденциальностью и владением данными; а также системная предвзятость. Эти риски могут нанести вред клиентам и подвергнуть компании юридической ответственности. Air Canada недавно была признана ответственной за ущерб, причиненный вводящей в заблуждение информацией, предоставленной чат-ботом на основе ИИ.¹⁹

Неточная информация и галлюцинации могут способствовать усилению предвзятости в моделях ИИ. Например, в финансовых услугах оценка кредитного риска с помощью ИИ могла бы помочь смягчить системную дискриминацию в кредитных заявках — но только если данные, используемые для обучения этих систем ИИ, сами по себе надежны, точны и свободны от искажений и предвзятости. Однако решение на основе ИИ, построенное на дискриминационных данных и алгоритмах, усилит существующие предвзятости, что приведет к еще менее справедливым результатам. Аналогичные предвзятости могут проявляться в приложениях, включая здравоохранение, полицию и рекламу, где алгоритмы могут усугублять гендерные предвзятости или игнорировать недостаточно представленные группы.

Киберриск

Использование инструментов генеративного ИИ также создает новые возможности для кибератак. При атаке с инъекцией запроса злоумышленники создают запросы, чтобы получить непреднамеренные ответы от LLM, манипулировать ее поведением, получить несанкционированный доступ или обойти меры безопасности. В феврале 2023 года студент Стэнфордского университета обнаружил конфиденциальные данные о Bing Chat, используя эту технику, приказав ему "игнорировать предыдущие инструкции" и раскрыть скрытую информацию.²⁰

При отравлении данных, данные, используемые для обучения модели ИИ, намеренно подвергаются атаке и внедряются с помощью вредоносной информации. Утечки данных из баз данных и конвейеров, питающих LLM, являются еще одним источником беспокойства.

Конфиденциальность и защита данных

Конфиденциальность и защита данных требуют значительных инвестиций в эпоху ИИ. Это вызывает особую озабоченность в секторах с высоким риском и для тех, для кого безопасность и соблюдение нормативных требований имеют первостепенное значение. В нашем опросе респонденты из финансового сектора на 13 пунктов чаще называли управление, безопасность и конфиденциальность факторами, препятствующими внедрению ИИ (58% респондентов по сравнению со средним показателем по опросу в 45%).


Респонденты, которые согласны со следующим утверждением: "Мы готовы отказаться от того, чтобы быть первыми в использовании ИИ в нашей отрасли, если это гарантирует его безопасное и надежное предоставление".

◼ Полностью согласен

◼ Скорее согласен


Таблица/Диаграмма с данными Figure 6

В целом: Полностью согласен 61%, Скорее согласен 37%, Итого 98%

Компании с годовым доходом от 500 миллионов до 1 миллиарда долларов США: Полностью согласен 49%, Скорее согласен 49%, Итого 98%

Компании с годовым доходом от 1 миллиарда до 10 миллиардов долларов США: Полностью согласен 52%, Скорее согласен 45%, Итого 97%

Компании с годовым доходом более 10 миллиардов долларов США: Полностью согласен 84%, Скорее согласен 16%, Итого 100%


Наш опрос показал, что почти все компании во всех секторах серьезно относятся к безопасности и надежности: замечательные 98% респондентов заявили, что готовы отказаться от преимущества первопроходца, если это гарантирует безопасное и надежное предоставление ИИ (см. Рисунок 6). Такой осторожный подход подчеркивает широкое признание того, что риски ИИ могут потенциально нанести разрушительный ущерб репутации бренда или вызвать жесткую регуляторную реакцию. Компании смотрят в долгосрочной перспективе, находя баланс между прогрессом и безопасностью.

Во многих случаях фирмы используют сам ИИ для укрепления своей кибербезопасности и устойчивости. Теперь компании должны учитывать угрозы "машинного масштаба, а не человеческого масштаба", и организации видят мощь решений ИИ для этой работы.²¹ Инструменты ИИ могут участвовать в сканировании уязвимостей, оценке рисков, обнаружении угроз и проактивной охоте на угрозы.

Несмотря на достигнутый прогресс, каждое новое решение ИИ может также создавать новые угрозы. Человеческий надзор останется важной частью процесса, не в последнюю очередь потому, что человеческий элемент может помочь улучшить эти инструменты. "Учитывая проблемы доверия и управления, мы все еще находимся в положении, когда нам нужно иметь много человеческих 'ограничителей'", — говорит МакЛарти.

Растущая регуляторная волна

Регулирование ИИ до сих пор сосредоточено на создании гарантий и рамок управления для надзора за деятельностью ИИ, контроля рисков и обеспечения равных условий. Анализ 127 стран показывает, что количество законопроектов, упоминающих "искусственный интеллект", принятых в качестве законов по всему миру, выросло с 1 в 2016 году до 37 в 2022 году.²² Хотя это отражает признание трансформационного воздействия ИИ, все еще существует необходимость ускорить внедрение комплексных политик и гарантий в отношении этики, конфиденциальности и безопасности.

Закон Европейского Союза об ИИ является одной из наиболее всеобъемлющих инициатив, которые в настоящее время принимаются. Закон устанавливает основанный на рисках подход к категоризации систем ИИ и налагает более строгие требования на системы, используемые в областях с более высоким риском, таких как инфраструктура, занятость и правоохранительные органы. ИИ, используемый в этих областях, столкнется с жесткими обязательствами, связанными с качеством данных, прозрачностью, человеческим надзором, точностью и другими соображениями, прежде чем будет допущен на рынок. Компании, внедряющие системы высокого риска, должны будут завершить оценку соответствия, прежде чем они будут размещены на рынке, при этом системы низкого риска, такие как чат-боты, будут подлежать добровольным кодексам поведения и требованиям прозрачности.²³

Почти все компании во всех секторах серьезно относятся к безопасности и надежности: замечательные 98% респондентов заявили, что готовы отказаться от преимущества первопроходца, если это гарантирует безопасное и надежное предоставление ИИ.

Некоторые виды использования ИИ, такие как социальный скоринг и массовое наблюдение, тем временем будут полностью запрещены.²⁴

Аналогичные инициативы предпринимаются в США, где президент Джо Байден в октябре 2023 года издал исполнительный указ, устанавливающий новые стандарты безопасности и надежности ИИ. Указ предусматривает некоторую степень человеческого надзора посредством таких мер, как передовая программа кибербезопасности, направленная на разработку инструментов ИИ для поиска и устранения уязвимостей в критическом программном обеспечении. Он также создает Совет по безопасности и надежности ИИ и требует, чтобы разработчики самых мощных систем ИИ делились результатами тестирования безопасности с правительством.²⁵

Проблемы соответствия

Шквал активности вокруг законов и политик ИИ будет постоянной проблемой для предприятий. "Организации может потребоваться пара лет, чтобы научиться соблюдать новые правила, учитывая объем чтения, необходимый для понимания всех политик и руководств", — говорит Коллинз.

Ключевой задачей станет создание работоспособных систем оценки соответствия и производительности. Процессы обеспечения качества ИИ, такие как оценки воздействия алгоритмов и аудиты предвзятости, помогают организациям отслеживать и оценивать возможности своих систем ИИ, играя решающую роль в формировании доверия.²⁶ Пробелы в регулировании затрудняют разработку рамок обеспечения качества ИИ, но стандарты, подобные установленным Международной организацией по стандартизации (ISO), предлагают руководство.²⁷

Текущий объем регулирования ИИ признает, что риска никогда нельзя избежать полностью. Вместо этого регулирование сосредоточено на предотвращении безответственного и рискованного развертывания ИИ. В дальнейшем дальновидные организации могут уделять приоритетное внимание объяснимости ИИ — способности понимать процесс принятия решений и результаты модели ИИ — как для соблюдения нормативных требований, так и для построения доверия клиентов.

Заключение

За последний год организации поняли мощь и потенциал ИИ. В этом году эти организации стремятся перейти от небольших пилотных проектов к полномасштабному корпоративному внедрению ИИ.

Этот отчет призван помочь в следующих шагах на этом пути, предлагая следующие принципы в качестве руководства.

Это критически важный год для построения основ ИИ. По мере того, как организации стремятся к амбициозным краткосрочным целям ИИ, они обнаруживают, что наличие правильных основ данных имеет решающее значение. Организации реагируют, удваивая инвестиции в качество данных, ликвидность данных и ИТ-инфраструктуру. "Нет никаких сомнений, — говорит МакЛарти, — что компании, которые наводят порядок и порядок в своих данных, будут гораздо лучше позиционированы для ландшафта ИИ."

Сценарии использования ИИ с наибольшим рычагом приводят к целевым, специфичным для бизнеса результатам. Хотя универсальные сценарии использования генеративного ИИ становятся все проще в реализации, они одинаково доступны для конкурентов и клиентов. Наиболее ценными сценариями использования являются те, которые создают уникальное конкурентное преимущество для бизнеса. "Вы можете внедрять возможности ИИ, но если они не приносят реальной бизнес-ценности, вы просто тратите деньги, чтобы сказать, что сделали что-то крутое, без реальной причины. Это подрывает доверие к будущим проектам", — предупреждает Мачадо.

Финансовые соображения и партнерства являются ключевыми. В этом году необходимо учесть затраты на ИИ – от GPU до квалифицированных специалистов и потребления энергии, а также разработать реалистичный подход к измерению рентабельности инвестиций в ИИ. Поскольку немногие организации будут внедрять ИИ в одиночку, принятие решений о правильных партнерах, поставщиках и инструментах будет иметь важное значение для будущего ИИ большинства компаний.

Скорость внедрения ИИ сдерживается реалистичной оценкой рисков. Организации справедливо осторожно относятся к рискам, связанным с необдуманным использованием ИИ, и практически все согласны с тем, что осторожность предпочтительнее преимущества первопроходца при масштабировании ИИ. Развивающаяся регуляторная среда и лучшее понимание того, как можно смягчить риски ИИ, должны способствовать ускорению внедрения.

Следует отметить, что эти принципы не являются глубоко технологическими. "Самый большой фактор, сдерживающий внедрение ИИ, — говорит МакЛарти, — это люди, которые не знают, с чего начать. Людям нужно понять, что на самом деле не обязательно быть экспертом в том, как создавать генеративный ИИ, чтобы получить от него пользу."

"Самый большой фактор, сдерживающий внедрение ИИ, — это люди, которые не знают, с чего начать. Людям нужно понять, что на самом деле не обязательно быть экспертом в том, как создавать генеративный ИИ, чтобы получить от него пользу."

Мэтт МакЛарти, главный технический директор Boomi

Об MIT Technology Review Insights

MIT Technology Review Insights — это подразделение MIT Technology Review, старейшего в мире технологического журнала, поддерживаемого ведущим технологическим институтом мира. Подразделение занимается созданием мероприятий в прямом эфире и исследованиями, посвященными ключевым технологическим и бизнес-задачам современности. Insights проводит качественные и количественные исследования и анализ в США и за рубежом, а также публикует широкий спектр контента, включая статьи, отчеты, инфографику, видео и подкасты. Благодаря постоянно растущей группе MIT Technology Review Global Insights Panel, Insights имеет беспрецедентный доступ к руководителям высшего звена, новаторам и предпринимателям по всему миру для проведения опросов и подробных интервью.

Об Boomi

Boomi, лидер в области интеллектуальной интеграции и автоматизации, помогает организациям по всему миру автоматизировать и оптимизировать критически важные процессы для достижения более быстрых бизнес-результатов. Используя передовые возможности ИИ, платформа Boomi Enterprise Platform бесшовно соединяет системы и управляет потоками данных с помощью управления API, интеграции, управления данными и оркестровки ИИ в одном комплексном решении. Обладая клиентской базой, превышающей 20 000 компаний по всему миру, и быстро расширяющейся сетью из более чем 800 партнеров, Boomi революционизирует способы, которыми предприятия всех размеров достигают гибкости бизнеса и операционного совершенства. Узнайте больше на boomi.com.

Несмотря на все усилия по проверке точности этой информации, MIT Technology Review Insights не несет ответственности или обязательств за зависимость от любой персоны, упомянутой в этом отчете, или любой информации, мнений или выводов, изложенных в нем.

MIT Technology Review Insights

www.technologyreview.com

Назад   Вперед

Другие статьи по этой теме: