Come Notion rilascia e scala gli agenti con gli agenti gestiti di Claude

Tre settimane dopo il lancio degli agenti esterni, lo spazio di lavoro collaborativo di IA Notion aveva 18.000 agenti creati dai clienti e il 90% dell'attività degli agenti veniva eseguita su trigger automatizzati anziché sulla chat. Notion ha sviluppato la funzionalità su Claude Agenti gestiti, la suite di API componibili di Anthropic per la creazione e la distribuzione di agenti su larga scala. Il product manager Eric Liu ha parlato con Anthropic di cosa si sono occupati gli agenti gestiti e di cosa lo ha sorpreso dal momento del lancio.

Anthropic: di recente hai distribuito agenti esterni sugli agenti gestiti. Come li stanno effettivamente utilizzando le persone?

Eric Liu, Notion: vogliamo che Notion sia la migliore piattaforma di collaborazione per agenti e team. Una parte fondamentale di questa missione è portare i migliori agenti a lavorare in modo nativo in Notion, e Claude è in cima alla lista: l'agente esterno numero uno che le persone volevano utilizzare in Notion. Finora sono stati creati circa 18.000 agenti di Claude e tali agenti hanno eseguito circa 140.000 passaggi. Siamo stati piacevolmente sorpresi dalla rapidità con cui è stato avviato, con pochissimo marketing. Un'ampia percentuale di persone che creano agenti in Notion ora crea agenti di Claude. Stiamo riscontrando anche un elevato livello di utilizzo. Il 90% delle interazioni che le persone hanno con Claude sono automazioni in Notion, attivate su una pagina di Notion, un messaggio Slack o esecuzioni pianificate. Non si tratta di chattare direttamente con Claude; il wrapper che abbiamo creato attorno a Claude per le automazioni è ciò che attira maggiormente i nostri clienti. I nostri principali spazi di lavoro lo stanno davvero utilizzando per i flussi di lavoro multiplayer: uno spazio di lavoro ha tre o quattro agenti che eseguono decine di thread al giorno, principalmente attraverso le automazioni.

Anthropic: come spiegheresti cosa hai sviluppato con gli agenti gestiti?

Liu: stai creando questi componenti software in Notion e puoi costruirli in qualsiasi flusso di lavoro che desideri. Ad esempio, abbiamo creato una bacheca delle attività che funge da orchestratore. Crei un'attività, la sposti su "Pronta per iniziare" e viene avviata una sessione di Claude. Claude estrae il contesto dalle pagine connesse, dal nostro sistema di progettazione, dalla documentazione delle API e dai documenti sui requisiti di prodotto. In altre parole, stai lavorando con Claude proprio come un collega.

La cosa bella è che non sei limitato a un'unica attività. I clienti possono avviare 30 o 40 lavori contemporaneamente e la nostra piattaforma li indirizza alla persona giusta per le approvazioni. Le persone stanno automatizzando il lavoro ripetitivo: pulizia dei flag degli esperimenti, molte mini attività diverse relative al triage.

Anthropic: perché hai deciso di aggiungere gli agenti gestiti a Notion?

Liu: gli utenti ci chiedevano Claude. I nostri clienti non vogliono utilizzare un agente per parlare con un altro agente, fare salti mortali per collegare le cose. Vogliono solo essere in Notion e dire: "Claude, aiutami a creare questo sito web". Gli agenti gestiti sono stati un'ottima soluzione perché abbiamo semplicemente integrato l'API e funzionava all'interno del prodotto.

Ci concentriamo su ciò che è nativo di Notion: la conoscenza della tua azienda. Il nostro agente è bravo a usare Notion, ma non è il migliore nella programmazione, mentre i modelli di Claude sono molto bravi in questo. C'è un intero mondo di altri file che Claude è davvero efficace nel generare. Alla base, tutti gli agenti sono fondamentalmente agenti di programmazione. E questo sta sbloccando molti casi d'uso non legati alla programmazione. Se stai creando una presentazione per il marketing o le vendite, stai prendendo le conoscenze e generando un artefatto, che si tratti di un PDF, di diapositive o di qualcos'altro. Quella sintesi delle informazioni in un artefatto è grosso modo lo stesso flusso di lavoro che funziona davvero bene nella programmazione. Stiamo assistendo a questa transizione nel resto del lavoro intellettuale.

Anthropic: i team possono implementare gli agenti gestiti in tre modi: come agenti con il brand di Claude nel prodotto, come motore senza brand dietro il proprio agente o come agenti interni. Perché Notion ha adottato il brand di Claude?

Liu: la nostra visione con Notion è di renderlo il centro di comando per gli agenti: consentire ai team di usare il proprio agente preferito in modo nativo all'interno di Notion. Se sei un prodotto di collaborazione, l'idea di poter utilizzare un agente nel prodotto è il fulcro del percorso dell'utente. Il vantaggio di integrare Claude è che le persone si fidano dell'intelligenza del modello e dell'esperienza.

La sessione viene trasmessa dagli agenti gestiti al client di Notion. Ma l'utente non sa che tutto questo sta succedendo. Tutto ciò che vedono è che Claude sta scrivendo file, scrivendo pagine di Notion, aggiornando le cose, commentando e facendo tutto ciò che i colleghi e gli altri agenti possono fare.

Anthropic: cosa hanno gestito gli agenti gestiti che non avete dovuto sviluppare voi stessi?

Liu: Avere un livello di infrastruttura in grado di eseguire attività a lunga esecuzione era davvero essenziale. La capacità di continuare a eseguire attività, gestire la memoria e avere risultati di alta qualità nel tempo è un livello estremamente critico, oltre al modello stesso.

La migliore sorpresa è stata che non abbiamo dovuto configurare nulla di tutto questo. Tutte le skill, tutti i diversi pacchetti di cui abbiamo bisogno, è stato molto semplice avviare e preparare.

La sandbox è davvero importante se desideri casi d'uso di programmazione. Parte del nostro flusso per gli utenti è la possibilità di connettersi al proprio GitHub, così da poter accedere ai propri repository e quindi eseguire il codice. L'endpoint di GitHub negli agenti gestiti è stato davvero utile.

Anthropic: hai detto che la maggior parte degli strumenti degli agenti è progettata per una singola persona che lavora con un singolo agente. Cosa si interrompe quando le organizzazioni cercano di scalare questa soluzione?

Liu: La sfida di distribuire gli agenti su larga scala riguarda davvero la collaborazione. In questo momento, gli agenti sembrano molto uno a uno. Sei tu e un agente in un'interfaccia. Ma come si presenta per tutto il tuo team, con tutti i processi di approvazione e tutto ciò che serve per utilizzare effettivamente gli agenti su larga scala? È fondamentalmente lo stesso problema che abbiamo risolto in precedenza in Notion, ovvero la collaborazione umana. Ora si tratta della collaborazione tra agenti ed esseri umani, e si scopre che molti degli stessi schemi relativi alle modifiche suggerite, alla cronologia delle versioni e alle knowledge base condivise sono davvero fondamentali.

Anthropic: lo stai utilizzando tu stesso. Com'è stato?

Liu: Il prodotto Agenti gestiti è come un parco giochi per me. Anche con il prototipo iniziale, abbiamo visto 12 ore di lavoro di prototipazione ridursi in circa 20 minuti. Quindi tutto il team potrà entrare in gioco e perfezionarlo insieme.

Quando stavo prototipando nuove funzionalità per Notion utilizzando il flusso di lavoro della bacheca delle attività, avevo circa 30 attività. Le ho prese tutte e le ho semplicemente trascinate su "start". Sono andato a prendere uno spuntino, sono tornato e tutti i prototipi erano stati creati. Poi ho taggato qualcuno nel mio team e abbiamo lavorato insieme sullo stesso risultato direttamente in Notion. Abbiamo trasformato il lavoro individuale dell'IA in un momento di collaborazione. Era questo il punto in cui pensavo: tutti dovrebbero fare questo.

Le persone ora vedono Claude comparire nella loro attività di Notion mentre sta lavorando e danno un pollice su o un pollice giù. Questa è un'interfaccia che già conoscono.

Anthropic: hai descritto team che schierano un esercito di agenti: un Claude separato per ogni fase del lavoro, che operano principalmente tramite trigger. Come ti assicuri che agiscano in sicurezza?

Liu: Abbiamo creato un agente di Claude per ogni fase: uno che indaga, uno che pianifica e uno che sviluppa. Ciò che è utile è che ogni agente può avere le proprie autorizzazioni, i propri contesti e le proprie automazioni. L'agente di revisione è gestito da poche persone, ma molte persone possono gestire l'agente investigatore.

Ogni agente che crei viene bloccato per impostazione predefinita dal punto di vista delle autorizzazioni, il che significa che inizia come privato. Devi condividerlo esplicitamente. Poi abbiamo una serie di permessi di accesso diversi: alcune persone potranno solo chattarci, altre potranno attivarlo, altre potranno modificarlo. Quando hai 20 o 30 persone che lavorano sulla stessa bacheca delle attività condivisa, come fai a essere sicuro che, al momento giusto, venga chiamata la persona giusta? Il modo in cui pensiamo alla risoluzione del flusso di lavoro automatizzato risolve anche i problemi di autorizzazioni e collaborazione. Queste due cose vanno di pari passo.

Anthropic: precarichi le competenze pubbliche di Claude, gestisci un marketplace delle competenze e lasci che gli agenti mantengano il proprio database delle competenze. Perché le competenze sono una parte così importante di questo?

Liu: Claude ha molte competenze eccellenti, quindi abbiamo precaricato quelle disponibili pubblicamente per la creazione di PowerPoint, PDF e documenti. All'interno di Notion, abbiamo un intero marketplace di competenze e stiamo consentendo alle persone di importare le proprie competenze per il proprio agente Claude.

Con le competenze, si tratta più di come si fa qualcosa, e non tanto se si può farlo. Non si tratta di sapere come creare un PowerPoint, ma più di "Ehi, questa è la nostra versione di PowerPoint. È così che ci piace che venga scritta".

Molte di queste competenze vengono fondamentalmente gestite in modo automatico. Una volta che c'è una pull request unita o un'attività completata, Claude identifica le lezioni che l'agente può imparare e le inserisce nelle competenze come aggiornamenti. Ogni volta che dici "questo è un prototipo fantastico" o "questo è un PDF fantastico", questo si integra nelle competenze. La qualità continua a migliorare senza che qualcuno debba aggiornare manualmente la knowledge base.

Anthropic: come pensi che Notion cambierà nei prossimi sei mesi come risultato di questo?

Liu: L'interfaccia sta diventando sempre più incentrata sugli esseri umani che esaminano il lavoro degli agenti. Noi facciamo da livello di traduzione tra utenti e agenti. Manterremo le stesse primitive relative alla pagina e al database, ma svilupperemo molto di più il controllo delle versioni e la supervisione umana nel processo.

La domanda diventa: come possono gli esseri umani diventare i revisori del lavoro agentico anziché direttamente coloro che lo eseguono? Penso che questo paradigma si applichi a gran parte dell'IA.