Генеральний директор Palantir Алекс Карп помиляється щодо загрози, яку Anthropic та OpenAI становлять для більшості підприємств. Це не означає, що йому немає чого втрачати

Вітаємо та ласкаво просимо до Eye on AI. У цьому випуску:

• Чому генеральний директор Palantir Алекс Карп помиляється щодо провідних лабораторій ШІ.
• Автономне програмне-вимагач уже тут, стверджує фірма з кібербезпеки.
• Китай розглядає можливість обмеження доступу іноземців до провідних моделей ШІ.
• Anthropic виявила, що частина функцій великих мовних моделей працює подібно до аспектів людської свідомості.
• Стандарти безпеки ШІ слабшають, йдеться у звіті.

Цього тижня у нас є захопливі новини прямо тут, у Fortune. Ми запускаємо абсолютно новий відеоподкаст під назвою Fortune AI Weekly, який я веду спільно з Беа Нолан. Ви можете розглядати його як своєрідне продовження того, що ми робимо в Eye on AI — ділимося нашими думками щодо найважливіших новин ШІ за тиждень, висвітлюємо чудові матеріали Fortune про ШІ та іноді надаємо ексклюзивні інтерв’ю з ключовими творцями, мислителями, засновниками, інвесторами та лідерами у сфері ШІ. Ви можете переглянути відео на нашому каналі YouTube тут.
***
Серед новин ШІ, які потрапили в заголовки минулого тижня, була різка критика компаній, що розробляють фундаментальні моделі, від Алекса Карпа. Генеральний директор Palantir виступив на CNBC у середу, нібито щоб обговорити нове партнерство між Palantir та Nvidia для надання «суверенної інфраструктури ШІ» уряду США та критично важливим галузям. Співпраця передбачає використання моделей з відкритим кодом Nemotron від Nvidia разом із платформою штучного інтелекту (AIP) від Palantir, яка є рівнем додатків, що поєднує ці моделі з даними, а також забезпечує безпеку даних та управління ними. Але це не те, що врешті-решт потрапило в заголовки. Натомість, після того як Карп попередив, що «не кидає тінь» на OpenAI та Anthropic, він почав лити потоки негативу на провідні лабораторії ШІ.
«Щось пішло зовсім не так», — сказав він. «Основна думка серед підприємств у цій країні така: ‘Я буду розслаблятися і марнувати свій час на токени, не отримаю жодної цінності, а вони заберуть мою інтелектуальну власність’». Потім він сказав, що це не наклеп, а «звітність». Він кілька разів наголошував на цих пунктах, стверджуючи, що компанії не отримують жодної цінності від токенів, які вони купують у провідних лабораторій, і що вони ризикують передати свою ключову бізнес-інтелектуальну власність цим постачальникам ШІ.
То чи має Карп рацію? Ну, частково. Але лише якщо примружитися. І багато з того, що сказав Карп, було або егоїстичним, або неточним, або суперечливим — або всім трьом одразу.

ROI відстає, але ніхто не «розслабляється» з цього приводу

Це правда, що багато великих компаній стурбовані тим, що ще не бачать достатньої рентабельності інвестицій (ROI) від впровадження ШІ, і хвилюються через вартість токенів, особливо коли використовують найпередовіші моделі ШІ в агентних сценаріях використання. (Той факт, що багато великих компаній стурбовані цим, суперечить твердженню Карпа про те, що вони просто «розслабляються».) Але певно, деякі компанії повідомляють про цінність — особливо у сфері розробки програмного забезпечення та обслуговування клієнтів. А для тих, хто цього не робить, причина часто полягає в тому, що вони не надали пріоритету найбільш стратегічно важливим сценаріям використання або не зрозуміли, як реінжинірингувати свої робочі процеси в усій компанії, щоб максимально використати технологію.
В одному з моментів інтерв’ю на CNBC Карп запитав: «чому вони беруть гроші за токени, якщо це так цінно?» Він припустив, що якби фундаментальні моделі працювали так добре, як стверджують постачальники моделей ШІ, краще було б запропонувати виконати завдання повністю для клієнта та стягувати відсоток від отриманої цінності. Це, власне, те, як Palantir цінує свої пропозиції (ось вам і егоїстичний момент). І саме це зараз починають робити багато консалтингових компаній, що продають послуги ШІ. Але це точно не те, як традиційно цінувалося програмне забезпечення. Також мало сенсу для технології загального призначення використовувати бізнес-модель, засновану на цінності. Зрештою, електрокомпанія стягує з вас плату за кожну одиницю електроенергії, яку ви використовуєте, а не за цінність того, що ви робите з цими електронами. Microsoft, до речі, стягує фіксовану суму за використання Microsoft Word та Excel — вона не намагається стягувати з вас відсоток від угоди, яку ви виграли, тому що ваша презентація PowerPoint справила враження на зустрічі.
Крім того, якщо Карп каже, що одна з головних скарг підприємств на провідні лабораторії ШІ полягає в тому, що вони «крадуть альфу» (тобто крадуть ноу-хау, яке дає бізнесу конкурентну перевагу), то це було б ще більшою проблемою для бізнес-моделі, в якій компанії ШІ виконують завдання для клієнтів, а не продають їм токени. (Це ще одна суперечлива річ, яку він сказав.) Деякі консалтингові фірми та деякі хмарні провайдери дійсно пропонують керовані послуги для клієнтів — але клієнти зазвичай готові передавати на аутсорсинг лише ті завдання, які вони вважають некритичними для свого бізнесу.

Мало доказів того, що лабораторії ШІ «крадуть альфу»

Щодо аргументу Карпа про те, що провідні лабораторії крадуть інтелектуальну власність у клієнтів, немає доказів того, що це буквально правда, принаймні не в тому сенсі, який, здавалося, мав на увазі Карп. Провідні постачальники ШІ мають політику, яка стверджує, що вони не мають прямого доступу до запитів, результатів або даних корпоративних клієнтів і не використовують ці взаємодії для навчання майбутніх моделей, якщо ці клієнти спеціально не погодяться дозволити постачальнику це робити. (Більше про цей особливий випадок трохи нижче.)

І OpenAI, і Anthropic дійсно говорять про використання анонімних та деідентифікованих даних клієнтів для проведення економічних досліджень того, як використовуються їхні моделі, але навіть це робиться лише для трафіку повідомлень, що надходить до їхніх сервісів, орієнтованих на споживачів, або їхніх прямих API, а не для клієнтів, які отримують доступ до моделей через безпечні хмарні сервіси, такі як Microsoft Azure, Amazon Bedrock або Google Vertex — саме так більшість великих підприємств отримують доступ до цих моделей.
Отже, для більшості великих бізнесів, особливо тих, які самі не належать до технологічного сектору, те, що стверджує Карп, є нісенітницею. Якщо ви є Archer-Daniels-Midland або Boeing, малоймовірно, що Anthropic украде вашу інтелектуальну власність і почне виробляти кукурудзу або випускати широкофюзеляжні літаки.

Все ж таки, кілька компаній мають причини для занепокоєння — Palantir є однією з них

Але існує категорія бізнесів, щодо яких Карп може мати рацію. Anthropic, OpenAI та Google DeepMind дійсно мають «партнерів з дизайну» в різних галузях, і ці партнери часто отримують ранній доступ, щоб допомогти тестувати найновіші моделі, над якими працюють ці лабораторії ШІ. І в рамках цих партнерств лабораторії часто мають набагато більший доступ до інформації про те, як ці підприємства використовують моделі.
Був принаймні один випадок, коли цей доступ міг бути використаний однією з лабораторій ШІ для створення конкуруючого продукту. Цей випадок стосується Anthropic та Figma. Як The Information повідомила минулого місяця, Anthropic співпрацювала як з Figma, так і з Canva над розробкою інструменту Claude for Design. Майк Крейгер, головний директор з продукту Anthropic, навіть мав місце в раді директорів Figma. Але потім Figma вийшла з запуску, і Крейгер раптово пішов у відставку з ради після того, як Figma виявила, що продукт, який будувала Anthropic, набагато більше конкурував з її власними функціями продукту, ніж Anthropic, принаймні на думку Figma, визнавала. Згідно зі звітом The Information, генеральний директор Figma Ділан Філд повідомив учасникам приватного заходу, організованого Sequoia Capital, що Anthropic «не була послідовно відвертою у своїх комунікаціях» з Figma щодо масштабу інструменту дизайну Claude.

Інші передбачувані випадки використання постачальниками ШІ доступу до даних клієнтів для подальшої конкуренції з цими клієнтами походять від джерел, які мають свої рахунки — багато з них є інвесторами Palantir. Венчурний капіталіст Джейсон Калаканіс, ранній прихильник Palantir, стверджував, що Anthropic використала дані з Cursor, помічника з кодування на основі ШІ, який був активним користувачем моделей Claude від Anthropic, щоб допомогти розробити Claude Code, вірусний продукт Anthropic, який згодом значно перевершив Cursor за популярністю. Венчурний капіталіст Чамат Паліхапітія зазначив, що Anthropic partnered with Eli Lilly та іншими фармацевтичними компаніями, перш ніж нещодавно заявити, що має намір запустити власну програму розробки ліків. (Anthropic характеризувала це як спосіб вдосконалити свої власні інструменти Claude of Science, і незрозуміло, чи намагатиметься Anthropic сама комерціалізувати будь-які кандидати на ліки, чи буде партнеритися з фармацевтичною компанією для цієї частини процесу.) Окрім того, що Паліхапітія є раннім інвестором Palantir, він є співедучим подкасту «All In» разом із Девідом Саксом, який також не відчуває симпатії до Anthropic.
Незважаючи на це, звинувачення в тому, що Anthropic має намір безпосередньо вийти на всі ці вертикалі, а не просто створювати інструменти, які полегшать впровадження їхніх моделей у ці вертикалі — що зовсім не те саме — здається натягнутим. Знову ж таки, якщо ви є більшістю компаній зі списку Fortune 500, Anthropic або OpenAI не почнуть конкурувати з вами віч-на-віч.
Насправді, найкращий приклад того, як провідні лабораторії ШІ крадуть дані для створення конкуруючого продукту, походить з моєї власної галузі — медіабізнесу. Тут провідні лабораторії ШІ дійсно зібрали величезні масиви матеріалів, захищених авторським правом, щоб навчити моделі ШІ, які часто безпосередньо конкурують з виданнями як джерела фактичної інформації. (Те саме можна сказати про видавничу справу, музику та образотворче мистецтво.) Але чомусь я не думаю, що саме це мав на увазі Карп.
Знайомий із фінансового сектора припустив, що те, що справді дістало Карпа — а також деяких зазвичай більш стриманих керівників, таких як Сатья Наделла з Microsoft, який, цікаво, останнім часом робив подібні заяви щодо хижацької природи провідних лабораторій ШІ — це не бізнес-моделі Anthropic та OpenAI, а їхні ймовірні IPO. Ці IPO, безсумнівно, будуть дуже затребувані. І щоб залучити ліквідність, необхідну для покупки акцій OpenAI або Anthropic, інституційні інвестори можуть шукати можливості продати інші технологічні компанії — такі як, ну, Palantir. Пам’ятайте: те, що ви параноїк, не означає, що вони не полюють на вас.
На цьому все, ось ще новини про ШІ.
Джеремі Кан
jeremy.kahn@fortune.com
@jeremyakahn

Ця стаття спочатку була опублікована на Fortune.com