Universal Guidelines for Artificial Intelligence

23 October 2018
Brussels, Belgium

New developments in Artificial Intelligence are transforming the world, from science and industry to government administration and finance. The rise of AI decision-making also implicates fundamental rights of fairness, accountability, and transparency. Modern data analysis produces significant outcomes that have real life consequences for people in employment, housing, credit, commerce, and criminal sentencing. Many of these techniques are entirely opaque, leaving individuals unaware whether the decisions were accurate, fair, or even about them.

We propose these Universal Guidelines to inform and improve the design and use of AI. The Guidelines are intended to maximize the benefits of AI, to minimize the risk, and to ensure the protection of human rights. These Guidelines should be incorporated into ethical standards, adopted in national law and international agreements, and built into the design of systems.  We state clearly that the primary responsibility for AI systems must reside with those institutions that fund, develop, and deploy these systems.

  1. Right to Transparency. All individuals have the right to know the basis of an AI decision that concerns them. This includes access to the factors, the logic, and techniques that produced the outcome.
  2. Right to Human Determination. All individuals have the right to a final determination made by a person.
  3. Identification Obligation. The institution responsible for an AI system must be made known to the public.
  4. Fairness Obligation. Institutions must ensure that AI systems do not reflect unfair bias or make impermissible discriminatory decisions.
  5. Assessment and Accountability Obligation. An AI system should be deployed only after an adequate evaluation of its purpose and objectives, its benefits, as well as its risks. Institutions must be responsible for decisions made by an AI system.
  6. Accuracy, Reliability, and Validity Obligations. Institutions must ensure the accuracy, reliability, and validity of decisions.
  7. Data Quality Obligation. Institutions must establish data provenance, and assure quality and relevance for the data input into algorithms.
  8. Public Safety Obligation. Institutions must assess the public safety risks that arise from the deployment of AI systems that direct or control physical devices, and implement safety controls.
  9. Cybersecurity Obligation. Institutions must secure AI systems against cybersecurity threats.
  10. Prohibition on Secret Profiling. No institution shall establish or maintain a secret profiling system.
  11. Prohibition on Unitary Scoring. No national government shall establish or maintain a general-purpose score on its citizens or residents.
  12. Termination Obligation. An institution that has established an AI system has an affirmative obligation to terminate the system if human control of the system is no longer possible.

Vejam também o “Explanatory Memorandum and References”:

https://thepublicvoice.org/ai-universal-guidelines/memo/

CNPq – Popularização da Ciência

Por que popularizar?

Logo CNPqA partir das mudanças tecnológicas que ocorreram na última metade do século XX, causadas principalmente pelo advento da tecnologia da informação e das novas formas de comunicação, a ciência e tecnologia passaram a ser fundamentais e determinantes para o desenvolvimento econômico e social de qualquer país, com consequências diretas para o mercado de trabalho e para a demanda pela qualificação de profissionais.

O desenvolvimento científico e tecnológico também introduziu novos temas de pesquisa, que foram levados à pauta do debate na sociedade, e grande parte deles referem-se à relação do homem com o meio ambiente, notadamente à sua sustentabilidade. Discutidos em nível mundial, esses temas colocam os desafios da proteção ambiental e do desenvolvimento sustentável e trazem para a consciência pública a necessidade de mais informações e maior participação e controle.

Lixo, poluição da água e do ar, camada de ozônio, chuva ácida e outros mais, são problemas que afetam a todos e envolvem valores e atitudes de indivíduos que podem por em risco a sobrevivência, segurança e bem-estar não apenas deles mesmos, mas também da sociedade em que vivem.

Diante do processo de democratização, novos questionamentos relativos à responsabilidade social do conhecimento e à conquista da cidadania são igualmente incorporados ao debate, de modo a que os indivíduos desenvolvam maior consciência e responsabilidade pelos seus atos. O desenvolvimento científico e tecnológico atinge, assim, o cidadão comum, que muitas vezes está longe do mercado técnico-científico, mas que deve possuir um pensamento crítico e reflexivo para se posicionar diante dos problemas que o rodeiam.

Deverá estar cada vez mais incorporado ao cidadão o espaço dos seus direitos e deveres, influindo no caminho das soluções técnico-científicas e pressionando pela incorporação dos benefícios sociais da pesquisa científica e tecnológica ao seu cotidiano. Bem-estar, segurança e sobrevivência são objetivos a serem perseguidos pelo desenvolvimento científico e tecnológico para toda a humanidade.

Porém, para que essa dimensão se concretize, é preciso que os resultados científicos e tecnológicos sejam divulgados para além da academia e alcancem a sociedade, realizando, assim, a popularização da ciência. Nesse sentido, a pesquisa científica e tecnológica deverá ouvir mais a sociedade e, por outro lado, a sociedade deverá acompanhar mais esse desenvolvimento, por meio da sua divulgação para um público amplo.

Para isso, a formação escolar deverá desenvolver hábitos mentais e atitudes que atendam ao indivíduo nas suas necessidade formativas e informativas, para que ele se torne efetivamente um cidadão consciente de seus direitos e deveres e capaz de exercer a democracia, lidando com o diferente e o antagônico.

Por outro lado, a formação do indivíduo está cada vez menos restrita ao espaço escolar. Ampliaram-se os espaços de formação complementar, como museus e centros de ciência, exposições, publicações etc., que efetivamente contribuem para a cultura científica, despertando o interesse pela ciência e ampliando o conhecimento de sua importância no cotidiano da vida social moderna, bem como para a conservação do patrimônio histórico e cultural de um povo.

A formação do cientista e do tecnólogo, portanto, deve estar aberta às questões éticas do desenvolvimento científico e tecnológico, como também para discutir a responsabilidade ético-político-social do cientista.

Coordenação de Comunicação Social do CNPq

Goethe, Saint-Hilaire e o Brasil

GoetheSaint-HilaireEm 3 de setembro de 1786 Johann Wolfgang Goethe saiu de Karslbad com destino ao sul, para a Itália. Li com muito interesse seu relato da viagem, apesar das dificuldades foi uma ida para a cultura. Já naquela época a cidade de Roma tinha dois mil anos de história. Acabo de ler o livro de Saint-Hilaire “Viagem ao Rio Grande do Sul” realizada em 1820, apenas 34 anos após a viagem de Goethe. Que horror! A descrição do que foi a viagem aqui pelos pagos é algo impressionante. Viagem em carretas, sem hospedarias, requisitando bois para tracionar a carreta, pirogas para atravessar rios, é realmente assustadora a visão! Aí dá para entender nossa situação atual, era mais do que primitiva a vida por aqui, a descrição da cultura dos gaúchos nos deixa tristes, guerreiros rudes sem visão do mundo. Nos outros livros, sobre as demais regiões do Brasil, a situação é semelhante. No sul, com a guerra da fronteira, a situação era muito pior. O Rei de Portugal e do Brasil criou a cultura dos “donos” das regiões e do patrimonialismo. Evoluímos materialmente bastante nestes quase 200 anos. O problema é que a cultura e o comportamento ético avançou menos, muito menos, do que a vida material. Certamente vivemos ao “bout du monde” no sentido ético e moral.

Hoje voltando da região de Gramado, Canela e Nova Petrópolis deu para traçar uma comparação com a descrição de Saint-Hilaire e as diferentes facetas do Brasil de hoje. Nesta Região das Hortências encontra-se o Parque das Esculturas Pedras do Silêncio que narra a história da imigração germânica por intermédio de esculturas em pedras. Ali tem-se a impressão de viver na Europa, qualidade de vida dos habitantes, segurança (os carros param antes das faixas de segurança e as pessoas te tratam educadamente) qual a diferença entre esta micro-região e o caos das grandes cidades e com a falta de civilitude geral?  A resposta é simples: a cultura do trabalho e da ética trazida pelos imigrantes europeus. Qual a solução para o Brasil? Educação de qualidade desde o fundamental; a primeira coisa com que se peocuparam os imigrantes foi conseguir um bom mestre-de-escola para ensinar seus filhos. Hoje foi necessária uma lei para coibir as agressões a professores no Brazil (com Z mesmo)! Precisamos urgentemente rever as bases de nossa cultura periférica com a valorização do culto à responsabilidade, fazendo a punição exemplar aos faltosos e criando a valorização do mérito. Já escrevi antes sobre o assunto em Mea Culpa! Será que sou culpado? lá lê-se:

Com a implantação do culto à mediocridade, à responsabilização dos outros pelas nossas falhas e fraquezas nunca seremos uma comunidade de excepcional qualidade. Nós, os professores, devemos ter consciência que estão nos manipulando com este conceito de culpa. Nós não somos culpados, culpados são os fracos e os desinteressados que não querem trabalhar pesadamente para atingir a vitória. Nossa responsabilidade é exigir qualidade e dedicação aos nossos alunos. Aqueles que são professores em Universidades públicas têm a responsabilidade adicional de não serem contagiados com esta falsa culpabilidade e mostrar aos alunos que eles são os que estão gastando recursos públicos e que têm a responsabilidade de dar “Blood, Toil, Tears and Sweat” como obrigação junto aos brasileiros que pagam impostos. No Brasil a famosa frase de Winston Churchill foi simplificada para “Sangue, Suor e Lágrimas” a palavra Toil desapareceu!

As Universidades se esqueceram que são IES – Instituições de Ensino Superior

UniversidadeHoje as Universidades avaliam seus professores quase que exclusivamente por suas atividades de pesquisa e por suas publicações. Tenho escrito sobre a avaliação na pós-graduação, mas agora vou começar a tratar um pouco da avaliação dos professores na graduação e na missão das Universidades. Acredito que a atual forma de avaliação é uma decorrência do modelo de Universidade Humboldtiana, mas isto fica para um próximo texto.

É preciso entender o que é uma Universidade. Há bastante tempo publiquei uma crônica sobre “Deem Tempo para a Universidade Pensar ou os modelos de Universidade” onde já tratava do assunto. Recentemente voltei ao mesmo assunto, mas o tema é recorrente. Vou copiar parte daquele texto.

A university is an institution of higher education and research, which grants academic degrees at all levels (bachelor, master, and doctorate) in a variety of subjects. … The word university is derived from the Latin Universitas Magistrorum et Scholarium, roughly meaning “community of masters and scholars“.Wikipedia

[A Universidade é uma instituição de ensino superior e de pesquisa que concede graus acadêmicos em todos os níveis (graduação, mestrado e doutorado) em uma gama de temas. … A palavra universidade é derivada do latim Universitas Magistrorum et Scholarium, que significa “comunidade de mestres e acadêmicos”.]

O cientista Carl Sagan (falecido), para os obcecados por bibliometria anexo ao final seus dados, escreve em seu livro “O Mundo Assombrado pelos Demônios” onde trata da ciência e das crendices e pseudo-ciência escreve:

Na Universidade de Chicago, também tive a sorte de participar de um programa de educação geral planejado por Robert M. Hutchins, em que a ciência era apresentada como parte integrante da magnífica tapeçaria do conhecimento humano. Considerava-se impensável que alguém desejasse ser físico sem conhecer Platão, Aristóteles, Bach, Shakespeare, Gibbon, Malinowski e Freud _ entre muitos outros. Numa aula de introdução à ciência, a visão de Ptolomeu de que o Sol gira ao redor da Terra era apresentada de forma tão convincente que alguns estudantes se flagravam reavaliando seu compromisso com a teoria de Copérnico. No currículo de Hutchins, o status dos professores não tinha quase nada a ver com a sua pesquisa; inflexivelmente ao contrario do padrão moderno da universidade norte-americana , os professores eram avaliados pelo seu ensino, pela sua capacidade de informar e inspirar a próxima geração. Nessa atmosfera inebriante, consegui preencher algumas das muitas lacunas na minha educação. Grande parte daquilo que era profunda- mente misterioso, e não apenas na ciência, tornou-se mais claro. E também testemunhei em primeira mão a alegria que sentem aqueles que têm o privilégio de revelar um pouco do funcionamento do Universo. Sempre fui grato aos meus mentores dos anos 50, e tentei me certificar de que cada um deles soubesse do meu apreço. (ISBN 85-7164-606-6, P. 15)

Esta é uma indicação clara entre um pesquisador e um Cientista. As nossas Universidades se esqueceram que são Instituições de Ensino e que a pesquisa é uma forma de qualificar seu Ensino. Certamente em tópicos precisos, fundamentais ou tecnológicos podemos gerar contribuições excelentes, mas somos Professores. Um assunto para meditação.

Em um artigo na Folha de São Paulo Adalberto Fazzio e Sidney Jard Da Silva sobre a “Universidade do Século 21” aparece esta citação de Max Weber:

No início do século passado, o renomado sociólogo alemão Max Weber observou que somente por acaso se poderia encontrar em um mesmo homem as vocações de cientista e professor. Apenas em situações fortuitas teríamos a felicidade de entrarmos em uma sala de aula e depararmos com o acadêmico igualmente “vocacionado” para o ensino e para a pesquisa”.

Eu havia tratado deste assunto em um texto de 2010 “Carreiras nas Universidades“, acho que está na hora de rediscutirmo o tema.

Afinal qual é a missão de uma Universidade? Tentem esta consulta no Google sobre sua Universidade preferida: “missão <nome da universidade>”, verão que muitas não apresentam claramente sua missão. Listo, a seguir três que encontrei:

UFMG

Gerar e difundir conhecimentos científicos, tecnológicos e culturais, destacando-se como instituição de referência nacional, formando  indivíduos críticos e éticos, com uma sólida base científica e humanística, comprometidos com  intervenções transformadoras na sociedade e com o desenvolvimento socioeconômico regional e nacional.

PUC Rio

A Pontifícia Universidade Católica do Rio de Janeiro é uma instituição comunitária de Educação Superior, de acordo com Portaria 679, de 12/11/2014, da Secretaria de Regulação e Supervisão da Educação Superior, filantrópica e sem fins lucrativos, que visa produzir e propagar o saber a partir das atividades de ensino, pesquisa e extensão, tendo por base o pluralismo e debates democráticos, objetivando, sobretudo, a reflexão, o crescimento e enriquecimento da sociedade.

Missão da UFSCar

Missão da UFSCar: Produzir e tornar acessível o conhecimento. Como afirmado no PDI (2005) – PDI apresentado segundo o formato SPIEnS/MEC para o período de 5 anos – não é incomum confundir-se a missão da universidade pública com as suas atividades-fim: o ensino, a pesquisa e a extensão. São estas três atividades que, de forma indissociada, dão concretude à missão da universidade de produzir e tornar acessível o conhecimento. Nesta conceituação sintética o tornar acessível envolve tanto a formação dos alunos como a interação com os diferentes segmentos da sociedade para o compartilhamento e (re)construção do conhecimento.

Afinal parece que a real missão é a formação de alunos sendo que a interação humboldtiana da pesquisa com o ensino tem por objetivo a Formação de Recursos Humanos. Grande parte de nossa crise como nação é esta falta de formação em grande escala de recursos humanos de alta qualidade. Será que esquecemos da nossa missão?


Query Source Papers Citations Cites_Year Cites_Paper h_index g_index
Carl Sagan Google Scholar 987 26420 184.76 26.77 72 152

História da Alemanha Moderna – de 1800 aos Dias de Hoje {Martin Kitchen} 2007


Capa do livro

Uma visão da história da Alemanha a partir da sua transformação de um agrupamento de estados fragmentados, em 1800, numa das nações mais poderosas da Europa em nossos dias. A narrativa começa com o impacto causado por Napoleão sobre a colcha de retalhos que era a Alemanha, descreve o desenvolvimento de uma consciência nacional dentro do contexto da mudança social e tensões entre a reforma e a reação, e culmina na análise da Alemanha depois da unificação nacional.

Este livro é muito interessante para quem deseja ter um conhecimento aprofundado sobre a evolução da Alemanha. Para aproveitar realmente o seu conteúdo é bom que o leitor tenha uma visão geral da história da Europa nestes últimos 200 anos. Mutas coisas passam a ficar mais claras com a leitura, o conceito de kleine Deutschland e groβe Deutschland e suas consequências me esclareceu muito sobre a história moderna da Alemanha. Mas um aviso: o texto é de um detalhamento extremo, os fatos são analisados com uma descrição minuciosa das pessoas envolvidas e em suas ações e orientações ideológicas. Será precisa uma capacidade de abstração para que se consiga ter uma visão agregada da história. Há trechos com análises mais abrangentes, posteriormente detalhadas com ampla documentação da personagens envolvidas.

Ecologia, ontem e hoje


Recebi este texto, não sei o autor, mas é absolutamente real. Pontos a ponderar.


Na fila do supermercado, o caixa diz a uma senhora idosa
  • A senhora deveria trazer suas próprias sacolas para as compras, uma vez que sacos de plástico não são amigáveis com o ambiente.
A senhora pediu desculpas e disse: 
  • Não havia essa onda verde no meu tempo.
O empregado respondeu: 
  • Esse é exatamente o nosso problema hoje, minha senhora. Sua geração não se preocupou o suficiente com o nosso meio ambiente.
     Você está certo – respondeu a senhora. Nossa geração não se preocupou adequadamente com o meio ambiente. Naquela época, as garrafas de leite, garrafas de refrigerante e cerveja eram devolvidos à loja. A loja mandava de volta para a fábrica, onde eram lavadas e esterilizadas antes de cada reuso, e eles, os fabricantes de bebidas, usavam as garrafas, umas tantas outras vezes.
     Realmente, não nos preocupamos com o ambiente no nosso tempo. Subíamos as escadas, porque não havia escadas rolantes nas lojas e nos escritórios. Caminhávamos até o comércio, ao invés de usar o nosso carro, a cada vez que precisamos ir a dois quarteirões de casa.
     Não nos preocupávamos com o ambiente. Até as fraldas de bebês eram lavadas, porque não havia fraldas descartáveis. A secagem era feita por nós mesmos, não nestas máquinas secadoras elétricas. A energia solar e eólica é que realmente secavam nossas roupas. 
     Os filhos menores usavam as roupas que tinham sido de seus irmãos mais velhos, e não roupas sempre novas.
     Mas é verdade: não havia preocupação com o ambiente, naqueles dias. Naquela época tínhamos somente uma TV ou rádio em casa, e não uma TV em cada quarto. E a TV tinha uma tela de 14 polegadas, não um telão do tamanho de um estádio; que depois será descartado, como não sei
Na cozinha, tínhamos que bater tudo com as mãos porque não havia batedeiras elétricas, que fazem tudo por nós. Quando enviávamos algo frágil pelo correio, usávamos jornal velho como proteção, e não plástico bolha ou pellets de plástico que duram cinco séculos para começar a degradar.
     Naqueles tempos não se usava motor a gasolina para cortar a grama, era utilizado um cortador de grama que exigia músculos. O exercício era extraordinário, e não precisava ir a uma academia e usar esteiras que também funcionam à eletricidade.
     Mas você tem razão: não havia naquela época preocupação com o meio ambiente. Bebíamos diretamente da fonte, quando estávamos com sede, em vez de usar copos plásticos e garrafas pet que agora lotam os oceanos.
     Recarregávamos nossas canetas com tinta inúmeras vezes ao invés de comprar outra. Amolávamos as navalhas, ao invés de jogar fora aparelhos descartáveis, quando a lâmina perdia o corte.
     Na verdade, tivemos uma onda verde naquela época. Naquele tempo, as pessoas tomavam o bonde ou ônibus coletivos e os meninos iam em suas bicicletas ou a pé para a escola, ao invés de usar os pais como serviço de táxi 24 horas. 
     Havia só uma tomada em cada quarto, e não um quadro de tomadas em cada parede para alimentar uma dúzia de aparelhos. E não precisávamos de GPS para receber sinais de satélites no espaço para encontrar a pizzaria mais próxima.
     Então, não é incrível que a atual geração fale tanto em “meio ambiente”, mas não queira abrir mão de nada e não pense em viver um pouco como na minha época!

Une histoire buissonière de la France {Graham Robb} 2011


O original deste livro é The Discovery of France mas a tradução francesa é de muito boa qualidade e o título muito melhor do que o original. O autor, Graham Macdonald Robb é um escritor inglês. Em 28 de abril de 2008 ele recebeu o prêmio Ondaatje Prize da Royal Society of Literature por este livro. É uma leitura realmente interessante pois mostra a França como um mosaico de culturas e regiões se integrando, aos poucos, para formar o país que hoje conhecemos.  O autor, professor de literatura, conta a história da França profunda além dos subúrbios de Paris. Esta é uma França muito diferente da que estudamos na história escolar, que trata da Monarquia, da Revolução e da República, mostrando a vida real do povo e das localidades com suas culturas específicas e, muitas vezes, ignorando o poder central. A descrição não é livresca, o autor adicionou aos seus estudos formais vinte e dois mil e quinhentos quilômetros de bicicleta pelo interior. A isto somou quatro anos de pesquisas bibliográficas. Uma leitura indispensável para conhecermos mais profundamente a cultura real francesa.