Apple предупредила инвесторов: ИИ-агенты могут выйти из-под контроля и навредить бизнесу

Опрос

реклама

Новости Software

Самое интересное в обзорах

04.11.2026 [22:19],

Компания Apple в своем ежегодном финансовом отчете указала в перечне рисков возможные действия ИИ-агентов, способных поступать «непредвиденным или непредсказуемым образом», что может представлять угрозу для бизнеса, создавая риск судебных исков или ущерба репутации компании.

Это подчеркивают потенциально деструктивный характер ИИ-агентов. Согласно документу компании, они «могут совершать действия автономно: взаимодействовать с внутренними или внешними системами (к которым у них, возможно, нет прав доступа), выполнять или изменять программный код, отправлять сообщения и проводить транзакции». Чтобы снизить риски, связанные с использованием ИИ-агентов, Apple в прошлом месяце внесла изменения в систему предоставления полного доступа к диску (Full Disk Access) на компьютерах Mac.

Хотя у Apple нет пока собственных «агентных» ИИ-систем, гендиректор Джон Тернус (John Ternus) отметил, что у компании есть «значительный потенциал» для расширения возможностей голосового помощника Siri, назвав агентыне функции «перспективными инструментами для пользователей».

«Мы просто хотим убедиться, что пользователи понимают, к чему именно они предоставляют доступ. Наша задача — гарантировать, что всё это происходит с соблюдением требований безопасности и конфиденциальности», — заявил Тернус. Apple рассчитывает, что ИИ-функции Siri стимулируют обновление устройств и помогут компенсировать рост расходов, связанный с ИИ-бумом.

Тернус также отметил, что принципиальное отличие подхода Apple заключается в том, что компания не имеет доступа к конфиденциальным данным пользователей на их устройствах: «На вашем iPhone хранится огромное количество личных данных — контакты, переписка, информация о здоровье, финансовые сведения и многое другое. Siri может обращаться к этим данным, помогая вам работать с ними максимально безопасно и конфиденциально — так, что никто другой не получит к ним доступа».

При этом коммерческие ИИ-агенты тех же OpenAI или Meta✴ для повышения своей эффективности запрашивают широкий доступ к учётным записям пользователей, включая электронную почту.

Также Apple указала на то, что регулирование в сфере искусственного интеллекта и «суперинтеллекта» меняется и остаётся непредсказуемым, а адаптация к новым законам, касающимся ИИ, может потребовать значительных затрат. Кроме того, для компании существуют риски, связанные с этическими опасениями и негативным восприятием потребителями автоматизации, искусственного интеллекта и суперинтеллекта — включая опасения по поводу угроз безопасности или иных общественных проблем и осложнений, отмечено в документе.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.