AI Regulation and Safety Perspectives

Abbiamo sentito alcuni di questi, ehm, i- credo che la gente li chiami IA

accelerazionisti

recentemente e, a essere, a essere sinceri, si sentono traditi.

Sentono che OpenAI stia sostanzialmente copiando Anthropic, ehm,

e il suo

CEO, Dario Amodei, nel suo impegno per normative molto aggressive

sull'IA.

Posso chiederti, insomma, dove divergiate nello specifico da

Anthropic e dal suo

CEO pro-regolamentazione, ehm, Dario—

Sì

quando si tratta di nuove regole sull'IA? Ehm, dove, dove sta la differenza?

Credo che ci siano molte

differenze. Ehm, n- noi siamo sempre stati

fermamente convinti che questa tecnologia debba essere democratizzata e messa nelle mani delle persone.

Ehm, credo che una delle maggiori differenze

tra noi e alcuni dei

più rigidi, diciamo, sostenitori della sicurezza dell'IA, è che crediamo che il mondo dovrebbe

accettare che accadano cose negative per i benefici di questa tecnologia e dell'autonomia delle persone

abbiano autonomia. Quindi, insomma, io,

non sono d'accordo, ma capisco la prospettiva delle persone

che dicono: «Questa

tecnologia diventerà così potente e sarà così pericolosa che un singolo laboratorio

a San Francisco dovrebbe averla e assicurarsi che non accada nulla di male

e, in qualche modo,

capire come distribuire i benefici». Credo che sia del tutto inaccettabile

come compromesso dal punto di vista della libertà e dell'autonomia umana e delle persone

che determinano il proprio futuro. Ma capisco da dove venga,

e penso che l'approccio più leggero

alla regolamentazione che sosteniamo comporti

l'accettazione

del fatto che accadranno cose negative mentre la società svilupperà

la

resilienza. Quindi non accetterei un compromesso dicendo,

tipo, «Ci assicureremo che non ci siano

gravi attacchi informatici, né alcun tipo di uso improprio di questa

tecnologia, non ci saranno

truffe, né nessun'altra delle cose brutte

che accadranno». Ehm, perché

credo che le persone faranno, di ordini di grandezza, più cose buone

che cattive.

Ma quando si tratta

del potenziale, tipo, di una grave perdita di controllo sull'IA,

e questa non è una preoccupazione

di oggi, ma potrebbe non esserlo nel futuro lontano,

ehm, è qui che direi agli

accelerazionisti, tipo,

«Riflettiamo un po' prima di

buttarci in questo futuro». Ehm, quindi direi di accettare

rischi circoscritti, rischi che comprendiamo in cambio dei

benefici e,

ehm,

la libertà, l'autonomia, tutte quelle cose di cui stavo appena parlando, ma di non accettare,

diciamo,

il rischio davvero catastrofico.

Sì. E, giusto per chiarire, hai menzionato un unico laboratorio a San

Francisco che controlla

tutta questa tecnologia. Ehm, sembra molto simile a chi dice che

Anthropic stia

cercando di accaparrarsi gli enti regolatori e di essere l'unico, ehm,

per così dire,

attore dominante, forse l'unico alla frontiera.

Ehm, pensi che potrebbe essere ciò che stanno facendo?

E, e ovviamente avresti— hai delle preoccupazioni al riguardo.

Dovresti… Voglio dire, avrei delle preoccupazioni

se lo facessero davvero.

Dovresti chiedere a loro se è ciò che vogliono fare.

Sì. E di nuovo, parlando delle politiche specifiche che voi,

ehm, non volete

sostenere, che Anthropic sta sostenendo,

sia a livello federale,

sia a livello statale. Ehm, perché, ripeto, ora voi siete,

siete sulla stessa linea quando

Si tratta, ehm, di tenere il passo con la frontiera—

Sì

Con la Cina. Essere allineati con valutatori terzi.

Ehm, s-sai, qual è, qual è un solo fattore distintivo?

Ehm,

A quanto ho sentito, uno dei vari fattori distintivi è

non vogliamo alcuna

restrizione né test su nulla tranne che sui modelli di frontiera.

Non vogliamo rallentare chi realizza modelli molto potenti

ma non all'assoluta

frontiera, nello spirito di, ehm,

sai, concentrarci davvero sui potenziali

rischi catastrofici.

Non penso, non penso che, anche se

credo che se non si impongono test né supervisione a

modelli che sono una o due generazioni indietro rispetto alla frontiera,

accetto il fatto che

accadano cose brutte con quelli, ehm, non mi spingerei a sostenere un regime di licenze

per quei modelli.