Tudo sobre Inteligência Artificial

Tudo sobre OpenAI

Formada por OpenAI e Google DeepMind, a startup Goodfire tem plano ousado. A empresa está investindo em pesquisas sobre interpretabilidade mecanicista — em outras palavras, a ciência por trás das redes neurais dos modelos de inteligência artificial (IA).

A plataforma criada pela startup, a Ember decodifica os neurônios dentro de sistemas de IA para fornecer acesso direto e programável aos seus pensamentos internos. Além disso, desbloqueia maneiras inteiramente novas de aplicar, treinar e alinhar modelos de IA.

Isso vai permitir aos usuários acesso a conhecimentos ocultos dos modelos, a manipulação de seus comportamentos de forma mais precisa e o aprimoramento de desempenho da tecnologia, segundo a empresa.

“Ninguém entende os mecanismos pelos quais os modelos de IA falham. Então, ninguém sabe como corrigi-los”, disse Eric Ho, cofundador e CEO da Goodfire. “Nossa visão é desenvolver ferramentas que tornem as redes neurais fáceis de entender, projetar e corrigir de dentro para fora. Essa tecnologia é fundamental para construir a próxima fronteira de modelos de base seguros e robustos.”

Startup de IA tem costas quentes

• Neste mês, a Goodfire anunciou rodada de financiamento Série A de US$ 50 milhões (R$ 287.45 milhões, na conversão direta), liderada pela Menlo Ventures com a participação da Lightspeed Venture Partners, Anthropic (criadora do Claude), B Capital, Work-Bench, Wing, South Park Commons e outros investidores;
• O investimento ocorre um ano após a fundação da empresa, que vai aplicar os recursos em iniciativas de pesquisa já em andamento, além do desenvolvimento da principal plataforma de interpretabilidade, a Ember, em parceria com os clientes;
• “Modelos de IA são, notoriamente, caixas-pretas não determinísticas”, disse Deedy Das, investidor da Menlo Ventures. “A equipe de alto nível da Goodfire está desvendando essa caixa para ajudar as empresas a realmente entender, orientar e controlar seus sistemas de IA”;
• A startup anunciou que vai lançar prévias adicionais de pesquisas, destacando técnicas de interpretabilidade de ponta em diversas áreas, como processamento de imagens, modelos avançados de linguagem de raciocínio e modelagem científica.

Leia mais:

Parceria de ouro

Recentemente, a empresa iniciou colaboração com o Arc Institute, organização de pesquisa sem fins lucrativos pioneira em modelos de base biológica. Com a parceria, a Goodfire pretende compreender o funcionamento do modelo Evo 2.

O sistema é capaz de processar sequências de até um milhão de pares de bases com resolução ao nível de nucleotídeo e permite tanto a predição, quanto a geração em vários níveis de complexidade biológica.

Segundo a startup, esse tipo de modelo oferece oportunidade única para a interpretabilidade da IA. Essas redes neurais operam com sequências de DNA e não textos legíveis por humanos, como ocorre em modelos de linguagem grande (LLMs, na sigla em inglês).

“Esse avanço na interpretabilidade pode aprofundar nossa compreensão dos sistemas biológicos, ao mesmo tempo em que possibilita novas abordagens para a engenharia genômica. Também abrem possibilidades para o desenvolvimento de melhores tratamentos para doenças e a melhoria da saúde humana”, diz o site.