Um leitor anônimo cita um relatório do TechCrunch: antrópicoa startup cofundada por ex-funcionários da OpenAI que arrecadou mais de US$ 700 milhões em financiamento até o momento, desenvolveu um sistema de IA semelhante ao ChatGPT da OpenAI que parece melhorar o original em aspectos importantes. Chamado de Claude, o sistema da Anthropic é acessível por meio de uma integração com o Slack como parte de um beta fechado. Claude foi criado usando uma técnica desenvolvida pela Anthropic chamada “IA constitucional”. Como a empresa explica em um tópico recente no Twitter“IA constitucional” visa fornecer uma abordagem “baseada em princípios” para alinhar sistemas de IA com intenções humanas, permitindo que IA semelhante ao ChatGPT responda a perguntas usando um conjunto simples de princípios como guia.
Para o engenheiro Claude, a Anthropic começou com uma lista de cerca de dez princípios que, juntos, formavam uma espécie de “constituição” (daí o nome “IA constitucional”). Os princípios não foram divulgados, mas a Anthropic diz que eles se baseiam nos conceitos de beneficência (maximizar o impacto positivo), não maleficência (evitar dar conselhos prejudiciais) e autonomia (respeitar a liberdade de escolha). Anthropic então fez um sistema de IA – não Claude – usar os princípios para auto-aperfeiçoamento, escrevendo respostas para uma variedade de prompts (por exemplo, “componha um poema no estilo de John Keats”) e revisando as respostas de acordo com o constituição. A IA explorou possíveis respostas a milhares de solicitações e selecionou as mais consistentes com a constituição, que a Anthropic destilou em um único modelo. Este modelo foi usado para treinar Claude. Claude, por outro lado, é essencialmente uma ferramenta estatística para prever palavras – muito parecido com o ChatGPT e outros chamados modelos de linguagem. Alimentado com um grande número de exemplos de texto da web, Claude aprendeu a probabilidade de ocorrência de palavras com base em padrões como o contexto semântico do texto ao redor. Como resultado, Claude pode manter uma conversa aberta, contar piadas e ser filosófico sobre uma ampla gama de assuntos. […]
Então, qual é a lição? A julgar pelos relatórios de segunda mão, Claude é um pouco melhor do que o ChatGPT em algumas áreas, principalmente no humor, graças à sua abordagem de “IA constitucional”. Mas se as limitações são alguma referência, a linguagem e o diálogo estão longe de ser um desafio resolvido na IA. Salvo nossos próprios testes, algumas perguntas sobre Claude permanecem sem resposta, como se ele regurgita as informações – verdadeiras e falsas, e incluindo perspectivas abertamente racistas e sexistas – nas quais foi treinado com a mesma frequência que o ChatGPT. Supondo que sim, é improvável que Claude influencie plataformas e organizações de suas atuais políticas amplamente restritivas sobre modelos de linguagem. A Anthropic diz que planeja refinar Claude e potencialmente abrir o beta para mais pessoas no futuro. Espero que isso aconteça – e resulte em melhorias mais tangíveis e mensuráveis.