Горе от ума
Собрание разработчиков, ежегодно созываемое под эгидой компании Apple, в этом году еще до его начала дало повод многим экспертам отрасли высказывать опасения, что развитие высоких технологий идет в опасном для человечества направлении.
Раздаются голоса (и их становится все больше), что внедряемые без должного просчета последствий инновации несут ненулевую вероятность утраты над ними контроля со стороны человека с непредсказуемыми для национальной безопасности последствиями.
В первую очередь такие опасения высказываются в отношении инструментов искусственного интеллекта (ИИИ), но не остались без внимания и риски, связанные с другими разработками в области компьютерной техники и облачных сервисов. «Эксперт» недавно писал о досадном для Google фальстарте с новым алгоритмом AI Overviews, и это может быть только первой ласточкой назревающей проблемы, когда на рынок ради победы в конкурентной гонке выводятся «сырые» версии ИИИ, способные нанести серьезный ущерб их пользователям и не только им.
Именно такие опасения дают основания экспертам отрасли называть WWDC24 «самым значимым событием десятилетия». От того, какие продукты будут представлены на конференции в Купертино, штат Калифорния, какие договоренности будут достигнуты между представителями Big Techs, зависит развитие не только рынка высокотехнологичных товаров и сервисов, но и в значительной мере лицо всего общества как минимум на 2030-е годы, а то и до середины столетия.
Профессор департамента права цифровых технологий НИУ ВШЭ Руслан Будник не согласен с тем, что инновации в области ИИ и высоких технологий способны причинить вред людям, даже если ожидания в их отношении были завышены.
«Нет причин беспокоиться, что в тех или иных направлениях законодательное регулирование отстает от темпов развития инноваций, это неизбежно и не критично. Разработчики высоких технологий — это ведь не производители табака или алкоголя, которые заведомо понимают, что их продукты причиняют потребителям вред. Высокотехнологические компании ставят цель облегчить людям жизнь и работу», — сказал он «Эксперту».
Когда созреет яблоко
Конференции WWDC24 предшествовали мероприятия на уровне отдельных компаний-участников «пленарного» совещания. В мае OpenAI, Microsoft и Google каждая провели свои собственные «отчетные собрания». На них были анонсированы успехи этих компаний в области новых ИИИ; и только Apple придерживает аналогичную презентацию, возможно, в ожидании 10 июня. Пока даже инсайдеры не торопятся предсказывать, как могут выглядеть новые «яблочные» ИИИ, среди которых называют аналог гугловской AI Overviews под рабочим названием Intelligent Search, продвинутую версию поисковика по изображениям Siri, а также «кошмар рекламодателей» Web Eraser.
Наблюдатели отмечают, что Apple не выводила на рынок новые ИИИ с 2022 года, сосредоточившись на гаджетах вроде VR-очков, айпадов и прочего «железа» для масс-маркета. В частности, соучредитель фирмы Deepwater Asset Management Джен Мюнстер прямо говорит, что Apple ощутимо проигрывает гонку за лидерство в разработке ИИИ другим ведущим компаниям. Хотя фирма готовится предложить своим клиентам в текущем году новые версии операционок iOS 18 и macOS 15, это не выглядит как какой-либо качественный скачок.
Глава Apple Тим Кук тем временем держит паузу. Он говорит о «колоссальных возможностях», которые его компания вот-вот предоставит пользователям, но без какой-либо конкретики. Есть предположения, что на WWDC24 «хозяева поля» покажут некий «суперчип» М4 — ранее просачивалась информация, что разработчики намерены презентовать его как «ошеломляюще мощный» движок для ИИ. Такие намеки подогревают ожидания инвесторов накануне июньской конференции, но нет гарантий, что сказав «а», Apple именно тогда и там скажет и «б».
Также одним из возможных «эпохальных» событий на WWDC24 может стать объявление об объединении усилий Apple с какой-либо другой крупной компанией. Слухи об этом тоже ходят в сообществе Big Techs. В рамках такой кооперации «яблочники» будут предоставлять «железо», их партнеры — софт. Партнерской компанией Apple, по мнению Мюнстера, может стать OpenAI. Если партнерство состоится, Apple принесет в объединенный проект не только свои технологии, но и армию своих фанатов, какой ни одна другая хайтековская компания похвастаться не может.
Хотя конференцию 2024 года в хайтековском сообществе называют «самым ожидаемым событием десятилетия», в этом определении много саморекламы и самолюбования, а также приманки для инвесторов. Все-таки надо понимать, что в сочетании «искусственный интеллект» присутствует слово «искусственный»: никакая самая умная программа не способна на general intelligence — инсайт, озарение, поэтому в тех областях, где требуется творческий подход, ИИ не может составить конкуренцию человеку. Но это вполне может произойти в будущем, считает Руслан Будник.
«Я вообще не вижу ничего страшного в том, если те или иные программы работают не совсем так, как предполагалось — ведь сами разработчики не всегда могут предсказать, что выйдет из их разработок в итоге. Сейчас Intel, например, делает шаги в сторону разработки ИИ не на силиконовой, а на углеродной базе, пытается создать память на органическом носителе. Килограмм такого носителя будет в состоянии вместить всю информацию, какой обладает человечество. Предполагается, что такие „биокомпьютеры“ уже смогут обладать тем, что мы понимаем под сознанием — то есть действовать независимо от внешнего наблюдателя, разработчика, правообладателя. Причем внешний наблюдатель может и не догадываться о том, что имеет дело с самостоятельно мыслящей материей», — делает он футурологический прогноз.
Кошмар на улице Apple
Предстоящая конференция может стать не только крупным маркетинговым событием, но и местом, где столкнутся разные взгляды на будущее высоких технологий в целом. Есть сведения, что крупный демарш готовятся организовать французские рекламодатели и другие медийщики из нескольких отраслевых объединений, которые в преддверии WWDC24 направили письмо Тиму Куку за 800 подписями.
Авторы этой «челобитной» призывают организаторов конференции отказаться от разработки некоторых ИИИ -в частности, блокиратора контента (Web eraser). Рекламодатели опасаются, что подобный инструмент быстро приведет их отрасль к финансовой катастрофе, учитывая, что их доходы от рекламы на интернет-площадках и так постоянно снижаются, а браузер Safari установлен примерно на 25% всех мобильных устройств во Франции.
«Сетестиратель» позволит пользователям 18-й версии Safari очищать контент от любых рекламных объявлений (голубая мечта всех веб-юзеров в мире). Его принцип действия будет схож с принципом работы контекстной рекламы, только с обратным знаком — щелчок на объявление/картинку не откроет его, а занесет в «черный список». Браузер будет раз и навсегда запоминать названия нежелательных компаний/продуктов/имен, а также изображения, и автоматически удалять их с загружаемых страниц в будущем.
Официально в Apple пока не подтверждают и не опровергают разработку такого инструмента. Не исключено, что заявление на этот счет будет сделано как раз на WWDC24. Французские «противники прогресса» уже предупредили, что если Apple не откажется от «убийцы рекламы» по-хорошему, они предпримут действия юридического характера, обвинив американскую компанию в нарушении свободы слова, доступа к информации и недобросовестной конкуренции. По оценкам французского объединения Alliance Digitale, запуск Web Eraser приведет к потере 100 тысяч рабочих мест в стране.
Аналогичное письмо было 10 мая направлено в Apple и от имени британских медийных ассоциаций. Apple пока никак не отреагировала на эти призывы и угрозы.
Опасность слишком сильного отрыва новых научно-технических разработок от правового регулирования существовала и, по-видимому, будет существовать всегда, считает эксперт Института цифровой экономики и информационных технологий РЭУ им. Плеханова Денис Волков.
«Риски, что разработчики слишком „заиграются“ или сознательно будут предлагать небезопасные в том или ином смысле продукты, конечно, есть. Но реальные потребности экономики заставляют ее участников применять такие продукты и технологии не дожидаясь, пока у законодателей дойдут руки до юридического регулирования тех или иных инноваций. Просто в сфере ИИ такие разрывы острее ощущаются обществом, поэтому здоровая доля алармизма всегда должна присутствовать на подобных конференциях. Особенно если те или иные технологии затрагивают детей и подростков», — сказал он «Эксперту».
Отдельный разговор «на повышенных тонах» в Купертино может произойти из-за планов Apple инсталлировать в браузер Safari 18 алгоритм ИИ, который заменит поиск-перебор по базам данных «собственным суждением» о том, какие результаты выдавать в ответ на запрос. В отличие от назревающего конфликта с рекламодателями, этот конфликт может произойти в «своем доме». Фанаты Apple призывают ее руководство не наступить на те же грабли, на которые наступил Google, дабы Intelligent Search не опозорился точно так же, как это перед всем миром совсем недавно сделал AI Overviews, предлагая приклеивать сыр к пицце.
Внутри самого «яблочного» сообщества есть сомнения и относительно последствий запуска Web Eraser, поскольку он может бумерангом ударить по самой компании: Apple сама получает рекламный доход от объявлений в Сети через свое подразделение Apple News.
