A professora de Ciência da Computação da Clarkson University, Jeanna Matthews, é uma das duas principais autoras de um novo Declaração de Princípios para Sistemas Algorítmicos Responsáveis lançado neste outono pelo Conselho de Política de Tecnologia Global da Association for Computing Machinery.
A declaração foi escrita conjuntamente pelo Comitê de Política de Tecnologia dos EUA da ACM e pelo Comitê de Política de Tecnologia da Europa.
Reconhecendo que os sistemas algorítmicos são cada vez mais usados por governos e empresas para tomar ou recomendar decisões que têm efeitos de longo alcance sobre indivíduos, organizações e sociedade, a declaração ACM estabelece nove princípios instrumentais destinados a promover decisões algorítmicas justas, precisas e benéficas. fazer.
“Estamos construindo nossa Declaração de 2017 sobre transparência e responsabilidade algorítmica com princípios que incitam designers e desenvolvedores a produzir evidências suficientes da legitimidade e confiabilidade de sistemas automatizados, para que os usuários não precisem confiar neles cegamente”, diz Matthews. “Processos para coletar e compartilhar essas informações críticas de forma transparente em todo o ciclo de vida é a chave para a implantação responsável de sistemas algorítmicos em colaboração com todas as partes interessadas impactadas por um sistema.”
Matthews participou de um painel altamente participado de especialistas em ACM em 1º de dezembro, que explorou a nova declaração, bem como as implicações legais, éticas e científicas da vida na nova era da máquina.
A nova declaração inclui uma definição para cada princípio, bem como uma breve explicação de como o princípio contribui para o objetivo maior de construir sistemas algorítmicos responsáveis.
Os nove princípios instrumentais são Legitimidade e Competência; Minimizando Danos; Segurança e privacidade; Transparência; Interpretabilidade e Explicabilidade; Manutenibilidade; Contestação e Auditabilidade; Responsabilidade e Responsabilidade; e Limitação dos Impactos Ambientais. A nova declaração complementa a Código de Ética da ACM e destina-se a ser um guia para desenvolvedores e designers de algoritmos permanecerem vigilantes em relação ao potencial de viés e injustiça em cada estágio do processo de desenvolvimento de software.
Matthews também faz parte da equipe do Instituto Nacional de Padrões e Tecnologia AI Risk Management Framework do Departamento de Comércio dos EUA, que está desenvolvendo uma estrutura para gerenciar melhor os riscos para indivíduos, organizações e sociedade associados à inteligência artificial (IA).
Ela também participou de um painel em 5 de dezembro sobre o futuro da vigilância comercial e a economia da Internet, conduzido pelo Conselho de Atividades Educacionais do IEEE.
A pesquisa de Matthews se concentra em garantir os processos de tomada de decisão da sociedade e apoiar os direitos dos indivíduos em um mundo de automação. Professora da Clarkson desde 2000, ela é autora de inúmeras publicações acadêmicas relacionadas à IA e à política de IA. Membro sênior da ACM, Matthews também é membro do Conselho da ACM e copresidente fundador do Subcomitê de Política de Tecnologia da ACM sobre Inteligência Artificial e Responsabilidade de Algoritmos.
O Comitê de Política de Tecnologia dos EUA da ACM serve como ponto focal para a interação da ACM com todos os ramos do governo dos EUA, a comunidade de computação e o público em assuntos de política relacionados à tecnologia da informação. A ACM é a maior sociedade de computação educacional e científica do mundo, unindo educadores, pesquisadores e profissionais para inspirar o diálogo, compartilhar recursos e enfrentar os desafios do campo.