A IA tem um problema de confiança e é maior do que resultados tendenciosos ou alucinações
Os modelos podem alterar as regras da noite para o dia, ocultar backdoors ou executar código que você não pode verificar
Pesos abertos não garantem nada
A solução? Verifiability.
Avalie-o. Audite-o. Execute-o em hardware comprovável.
Coordene-o além de um único ponto de controle.
De "confie em nós" → para "verifique a si mesmo". Essa é a mudança, e a fronteira está aqui.
A IA tem um problema de confiança. A verificabilidade é a solução.
Nosso gerente geral de IA @nima_vaziri conversou com a @alive_eth e @danboneh de @Stanford da @a16z para mapear as falhas mais profundas da IA hoje.
☁️ Modelos em que não podemos confiar ☁️
Os provedores atuais podem censurar, desligar ou mudar as regras da noite para o dia. O treinamento terceirizado esconde backdoors. Mesmo os pesos "abertos" não provam o que realmente está correndo.
Confiar. Portas dos fundos. Caixas pretas.
O caminho a seguir é claro:
🔥 Avaliações verificáveis
🔥 Inferência verificável
🔥 TEEs para integridade com suporte de hardware
🔥 Infra além de pontos únicos de controle
🔥 Blockchains como camadas de coordenação para IA
De "confie em nós" a "verifique a si mesmo".
Essa é a mudança. Esse é o desbloqueio.
A fronteira está aqui. Os construtores decidem o que vem a seguir.
Crie e use IA alinhada a incentivos com você.
Timestamps:
00:00:00 Introdução: Visão geral da interseção de IA e criptografia
00:01:58 Quatro grandes tendências de criptografia de IA
00:02:44 Os agentes de IA precisam de infraestrutura financeira
00:04:03 Prova da Humanidade: Lutando contra o conteúdo gerado por IA
00:04:17 Descentralizando redes de infraestrutura de IA
00:04:44 Vida sintética: agentes autônomos de IA
00:06:20 IA verificável
00:10:16 Números de desempenho atuais para provas de IA
00:13:18 A era da experiência no aprendizado de IA
00:14:56 Agentes de IA tendo vida própria
00:18:21 Justiça algorítmica e modelos verificáveis
00:23:18 Privacidade em IA: Ambientes de execução confiáveis
00:25:47 Incentivo econômico para modelos de peso aberto
00:31:39 Problema de atribuição: quem é pago pelo treinamento de IA?
00:35:52 Proveniência e autenticação de conteúdo (C2PA)
00:48:03 Segurança de IA: Encontrando Exploits e Vulnerabilidades
00:54:53 Aplicativos educacionais: LLMs como parceiro de aprendizagem
00:58:29 Confiança em LLMs e habilidades cognitivas
01:03:57 Medo dos provedores de conteúdo do treinamento LLM
8,11 mil
44
O conteúdo desta página é fornecido por terceiros. A menos que especificado de outra forma, a OKX não é a autora dos artigos mencionados e não reivindica direitos autorais sobre os materiais apresentados. O conteúdo tem um propósito meramente informativo e não representa as opiniões da OKX. Ele não deve ser interpretado como um endosso ou aconselhamento de investimento de qualquer tipo, nem como uma recomendação para compra ou venda de ativos digitais. Quando a IA generativa é utilizada para criar resumos ou outras informações, o conteúdo gerado pode apresentar imprecisões ou incoerências. Leia o artigo vinculado para mais detalhes e informações. A OKX não se responsabiliza pelo conteúdo hospedado em sites de terceiros. Possuir ativos digitais, como stablecoins e NFTs, envolve um risco elevado e pode apresentar flutuações significativas. Você deve ponderar com cuidado se negociar ou manter ativos digitais é adequado para sua condição financeira.