The Vienna Manifesto on Digital Humanism

Como resultado do 1st International Workshop on Digital Humanism (https://www.informatik.tuwien.ac.at/dighum/workshop/), realizado em Viena em abril deste ano e reunindo cientistas de diferentes áreas de conhecimento, foi elaborado o Vienna Manifesto on Digital Humanism (https://www.informatik.tuwien.ac.at/dighum/index.php). Ele é assinado pelos importantes pesquisadores presentes ao evento (Moshe Vardi entre eles) e está aberto a adesões por outros pesquisadores; eu já assinei!

Para os Grandes Desafios em Computação da SBC eu havia escrito este texto (2006 – antes da época!) https://www.palazzo.pro.br/Wordpress/?p=46


The first international workshop on Digital Humanism was held in Vienna, Austria, April 4 – 5, 2019. It was organized by the Faculty of Informatics of TU Wien, and supported by the Vienna Science and Technology Fund, and the Viennese Municipal Department for Economic Affairs, Labor and Statistics.

In the two-day workshop over 100 attendees from academia, governmental organizations, industry and civil society participated in a very lively and interactive way. The program consisted of three main sessions, namely

  • History and Impact of Information Technology
  • Humans and Society, AI and Ethics
  • Dynamics of a New World – Issues and Answers

In a total, there were 12 invited speakers and a final panel, drawing conclusions and identifying possible future directions. Presentations and discussions focused on technical, political, economic, societal and legal issues; and benefited from contributions from the different disciplines represented at the workshop (i.e., political science, law, sociology, history, anthropology, philosophy, economics and informatics). At the center of the discussion was the relationship between computer science / informatics and society, or, as expressed during the workshop, the co-evolution of IT and humankind.


We must shape technologies in accordance with human values and needs, instead of allowing technologies to shape humans. Our task is not only to rein in the downsides of information and communication technologies, but to encourage human-centered innovation. We call for a Digital Humanism that describes, analyzes, and, most importantly, influences the complex interplay of technology and humankind, for a better society and life, fully respecting universal human rights.

In conclusion, we proclaim the following core principles:

  • Digital technologies should be designed to promote democracy and inclusion. This will require special efforts to overcome current inequalities and to use the emancipatory potential of digital technologies to make our societies more inclusive.
  • Privacy and freedom of speech are essential values for democracy and should be at the center of our activities. Therefore, artifacts such as social media or online platforms need to be altered to better safeguard the free expression of opinion, the dissemination of information, and the protection of privacy.
  • Effective regulations, rules and laws, based on a broad public discourse, must be established. They should ensure prediction accuracy, fairness and equality, accountability, and transparency of software programs and algorithms.
  • Regulators need to intervene with tech monopolies. It is necessary to restore market competitiveness as tech monopolies concentrate market power and stifle innovation. Governments should not leave all decisions to markets.
  • Decisions with consequences that have the potential to affect individual or collective human rights must continue to be made by humans. Decision makers must be responsible and accountable for their decisions. Automated decision making systems should only support human decision making, not replace it.
  • Scientific approaches crossing different disciplines are a prerequisite for tackling the challenges ahead. Technological disciplines such as computer science / informatics must collaborate with social sciences, humanities, and other sciences, breaking disciplinary silos.
  • Universities are the place where new knowledge is produced and critical thought is cultivated. Hence, they have a special responsibility and have to be aware of that.
  • Academic and industrial researchers must engage openly with wider society and reflect upon their approaches. This needs to be embedded in the practice of producing new knowledge and technologies, while at the same time defending the freedom of thought and science.
  • Practitioners everywhere ought to acknowledge their shared responsibility for the impact of information technologies. They need to understand that no technology is neutral and be sensitized to see both potential benefits and possible downsides.
  • A vision is needed for new educational curricula, combining knowledge from the humanities, the social sciences, and engineering studies. In the age of automated decision making and AI, creativity and attention to human aspects are crucial to the education of future engineers and technologists.
  • Education on computer science / informatics and its societal impact must start as early as possible. Students should learn to combine information-technology skills with awareness of the ethical and societal issues at stake.

Sou culpado?

Com os problemas que estão aflorando nas Universidades resolvi reescrever este texto sobre a ideia de transferir a responsabilidade do estudo para as instituições e professores de forma a isentar os alunos de suas responsabilidades. Tem ocorrido problemas sérios de alunos de pós-graduação deprimidos, até tentativas de suicídio. Outros reclamando da Universidade pois os conhecimentos exigidos são acima do que estudaram (?) na escola. Estamos em um declínio tão grande no esforço pela qualificação e real competitividade e qualidade no ensino e pesquisa que algo precisa ser feito. Certamente estamos mais exigentes e há pessoas com expectativas acima de suas possibilidades. Humanamente devemos ter sensibilidade para tentar apoiar e salvar estas pessoas. Por outro lado a geração “floco de neve” existe. O “politicamente correto” deixa todos com uma sensibilidade extrema e impede a formação para enfrentar a adversidade. Tenho acompanhado o tema nas universidades nos USA com os cuidados extremos para não ferir susceptibilidades. O problema é a falta de resiliência para “não enfrentar as amarguras da vida”, para mim aí está a falha: precisamos mostrar para os jovens que lutar é bom e falhar não é uma desonra, desonra é não lutar.

No Brasil a famosa frase de Winston Churchill – “Blood, Toil, Tears and Sweat” foi simplificada para “Sangue, Suor e Lágrimas” a palavra Toil desapareceu!

 intr.v. toil
           1. To labor continuously; work strenuously.
           2. To proceed with difficulty: toiling over the mountains.

Seguindo esta famosa frase incluo um comentário sobre o cenário da época na Inglaterra.

Homens de 18 anos pilotavam caças Spitfire para defender Londres, que era bombardeada por pilotos da Luftwaffe, de 19 anos. Com a guerra milhões morreram e os que sobreviveram voltaram para casa e tiveram que trabalhar duro para reconstruir seus países, tiveram filhos e envelheceram. Comiam o que tinha pra comer. Economizavam o que podiam e cuidavam de suas famílias.
Hoje a adolescência vai até os 35 anos.

  • Muitas crises.
  • Mundo cruel.
  • Muitas decisões.
  • Muita pressão.
  • Tudo o que foi construído, até hoje, está equivocado.
Conclusão (de um antigo ditado Romano):
  • Tempos difíceis criam pessoas fortes. 
  • Pessoas fortes criam tempos fáceis. 
  • Tempos fáceis criam pessoas fracas. 
  • Pessoas fracas criam tempos difíceis.

Em uma antiga discussão na lista da SBC apareceu esta frase: O fato é que a Universidade deixou de ser o centro do conhecimento humano para se tornar uma fábrica de profissionais” isto é o fim da nossa possibilidade de termos um futuro brilhante. Em um painel do CSBC, sobre o centenário de Turing, foi perguntado à mesa “Qual seria a possibilidade de termos no Brasil um Turing Award? (este prêmio é a consagração de um pesquisador em Computação)”. A resposta foi contundente: “Zero!”. Concordo plenamente com esta resposta, com a implantação do culto à mediocridade, à responsabilização dos outros pelas nossas falhas e fraquezas nunca seremos uma comunidade de excepcional qualidade. Nós, os professores, devemos ter consciência que estão nos manipulando com este conceito de culpa. Nós não somos culpados, culpados são os fracos e os desinteressados que não querem trabalhar pesadamente para atingir a vitória. Nossa responsabilidade é exigir qualidade e dedicação aos nossos alunos. Aqueles que são professores em Universidades Públicas têm a responsabilidade adicional de não serem contagiados com esta falsa culpabilidade e mostrar aos alunos que eles são os que estão gastando recursos públicos e que têm a responsabilidade de dar “Blood, Toil, Tears and Sweat” como agradecimento aos brasileiros que pagam impostos.

Universal Guidelines for Artificial Intelligence

23 October 2018
Brussels, Belgium

New developments in Artificial Intelligence are transforming the world, from science and industry to government administration and finance. The rise of AI decision-making also implicates fundamental rights of fairness, accountability, and transparency. Modern data analysis produces significant outcomes that have real life consequences for people in employment, housing, credit, commerce, and criminal sentencing. Many of these techniques are entirely opaque, leaving individuals unaware whether the decisions were accurate, fair, or even about them.

We propose these Universal Guidelines to inform and improve the design and use of AI. The Guidelines are intended to maximize the benefits of AI, to minimize the risk, and to ensure the protection of human rights. These Guidelines should be incorporated into ethical standards, adopted in national law and international agreements, and built into the design of systems.  We state clearly that the primary responsibility for AI systems must reside with those institutions that fund, develop, and deploy these systems.

  1. Right to Transparency. All individuals have the right to know the basis of an AI decision that concerns them. This includes access to the factors, the logic, and techniques that produced the outcome.
  2. Right to Human Determination. All individuals have the right to a final determination made by a person.
  3. Identification Obligation. The institution responsible for an AI system must be made known to the public.
  4. Fairness Obligation. Institutions must ensure that AI systems do not reflect unfair bias or make impermissible discriminatory decisions.
  5. Assessment and Accountability Obligation. An AI system should be deployed only after an adequate evaluation of its purpose and objectives, its benefits, as well as its risks. Institutions must be responsible for decisions made by an AI system.
  6. Accuracy, Reliability, and Validity Obligations. Institutions must ensure the accuracy, reliability, and validity of decisions.
  7. Data Quality Obligation. Institutions must establish data provenance, and assure quality and relevance for the data input into algorithms.
  8. Public Safety Obligation. Institutions must assess the public safety risks that arise from the deployment of AI systems that direct or control physical devices, and implement safety controls.
  9. Cybersecurity Obligation. Institutions must secure AI systems against cybersecurity threats.
  10. Prohibition on Secret Profiling. No institution shall establish or maintain a secret profiling system.
  11. Prohibition on Unitary Scoring. No national government shall establish or maintain a general-purpose score on its citizens or residents.
  12. Termination Obligation. An institution that has established an AI system has an affirmative obligation to terminate the system if human control of the system is no longer possible.

Vejam também o “Explanatory Memorandum and References”:

https://thepublicvoice.org/ai-universal-guidelines/memo/

Novo artigo: Um Modelo Ontológico Probabilístico para Assistir Pessoas com Declínio Cognitivo

Autores: Gabriel Machado Lunardi, Guilherme Medeiros Machado, Alencar Machado, José Palazzo M. de Oliveira

Resumo: Fornecer lembretes a um idoso, enquanto realiza suas atividades diárias, é uma atividade de suporte ao usuário e, portanto, um tópico relevante na área de Ambientes de Vivência Assistida. Determinar tais lembretes implica na tomada de decisões, uma vez que o fluxo das ações (comportamento) de uma atividade geralmente envolve ramificações. Um sistema automatizado precisa decidir qual das próximas ações é a melhor para o usuário em determinada situação. Problemas dessa natureza envolvem níveis de incerteza que precisam ser tratados. Muitas abordagens para esse problema exploram apenas dados estatísticos, ignorando tecnologias semânticas importantes, como, por exemplo, a utilização de ontologias. Apesar de importantes, as ontologias não suportam, de forma nativa, o raciocínio sobre a incerteza. Por isso, neste artigo é apresentado um modelo ontológico, com uma extensão probabilística, que permite raciocinar sobre a incerteza sem perder informação semântica. Esse modelo é avaliado por meio de um estudo de caso no qual demonstra-se uma instanciação com dados reais.

ONTOBRAS 2018, Proceedings of the XI Seminar on Ontology Research in Brazil, São Paulo, Brazil, October 1st-3rd, 2018. Edited by: Joel Luís Carbonera, Giancarlo Guizzardi, Sandro Rama Fiorini, Mara Abel, Vol-2228, ISSN 1613-0073, p. 185-196 – http://ceur-ws.org/Vol-2228/paper13.pdf

Citações, h-index e fraude

Sempre lutei contra a utilização de um simples índice quantitativo para avaliar coisas sérias como a qualidade de um trabalho científico, de um programa de pós-graduação ou de um pesquisador. Certamente as citações são indicadores importantes, o mesmo vale para índices quantitativos como o famoso h-index e suas variações. Certamente a falta de compromisso em realizar uma avaliação real da qualidade de um trabalho, isto é: assumir a responsabilidade de julgar, leva a supervalorização destes índices. A situação chegou a tal ponto que, acreditem, foi criada uma rede criminosa de compra de citações. Leiam a mensagem que acabo de receber!

h-index e fraude

Avaliação da CAPES, Vestibular e QUALIS

Logo da CAPESEstava pensando sobre a avaliação realizada pela CAPES dos programas de pós-graduação. Tenho escrito bastante sobre o assunto, afinal a pesquisa e o ensino em Computação é minha atividade essencial. Um dos textos publicados foi sobre Individualismo ou o QUALIS e a Avaliação onde me preocupava com o problema da utilização do QUALIS para avaliações de pessoas, o que é dito como uso inadequado pela CAPES. Mas agora estava pensando sobre o que acontece, então me surgiu a analogia com o vestibular. Este exame foi criado para selecionar os candidatos para a Universidade. Qual seu real objetivo? No início era evidente: avaliar o real conhecimento dos candidatos. Quando a competição começou a aumentar surgiram os cursinhos, segui um dos primeiros aqui em Porto Alegre. Como funcionavam estes cursinhos? Eram aulas ministradas por professores bem conhecidos no secundário ou mesmo nas universidades que ministravam aulas revisando e explicando os fundamentos e os conteúdos das disciplinas. Começavam com o primeiro ano do secundário, seguiam para o segundo e terceiro. Era de fato um condensado do secundário tirando as dúvidas e  procurando aumentar a compreensão dos candidatos. O exame vestibular era textual, com questões que deveriam ser respondidas com textos e cálculos, um verdadeiro exame. Ai surgiu um problema: com o aumento dos candidatos o modelo não escalava! O vestibular passou a ser composto por questões de cruzinha. Nesta época eu participava tanto da Comissão de Vestibular quanto do CPD da UFRGS, conheci bem o problema nos dois sistemas: fiz o vestibular com questões textuais e participei do processo do vestibular com múltiplas provas de escolha simples ou múltipla. Ai os cursinhos degeneraram, passaram a ser treinamentos sobre a melhor forma de responder as questões. O treinamento são verdadeiras gincanas. As aulas, de um ponto de vista tradicional, são sessões de teatro ou de circo. Certamente a qualidade do processo de seleção piorou, ou se degradou. 

 Com a avaliação dos programas de pós-graduação se passou o mesmo. Também participei de toda a evolução. No início era feita uma avaliação detalhada de cada programa, uma comissão visitava o programa, entrevistava professores e escolhia alunos ao acaso para entrevistas individuais. As bibliotecas, salas de aula, equipamentos eram analisados. Havia um julgamento. Ai houve um aumento gigantesco de cursos de pós-graduação (mais tarde farei uma análise comparativa com outros países) e o sistema, novamente, não escalava! Já vimos isto antes… Conclusão: é preciso achar uma forma de avaliar os programas sem gastar muito. Foi, então, criada a obsessão pela métrica das publicações. E ai surgiu a distorção. Em um texto anterior escrevi:

Há uns meses avaliei um artigo internacional e, como sempre faço, realizei uma busca na Web para encontrar as demais publicações do autor. Hoje existe uma enorme pressão para avaliar os pesquisadores por suas publicações e, muitas vezes, pela quantidade delas. Esta pressão leva muitas pessoas a uma atitude que chamo de “mass publication process” onde o mesmo conteúdo é maquiado para parecer diferente e é publicado várias vezes. Por isto um revisor responsável precisa verificar o grau de originalidade de um artigo antes de emitir um parecer conclusivo. Fiquei impressionado pela quantidade de publicações encontradas daquele autor nos últimos dois ou três anos! Analisando com mais cuidado descobri que em apenas uma conferência ele tinha 7 publicações registradas no DBLP, 6 em outra e 5 em uma terceira. Ao analisar os artigos deu para ver que, agregados os de cada conferência, dariam um  artigo adequado e denso. Como os artigos foram estrategicamente distribuídos para vários workshops associados e para a conferência principal acabaram sendo aceitos. Será que este pesquisador é melhor por ter 18 artigos nestas conferências, além de mais umas 12 variações sobre o mesmo tema, do que seria se tivesse publicado dois ou três artigos densos em vez de 30 pontuais tratando, maquiadamente, do mesmo assunto?

Uma justificativa foi que era preciso achar uma métrica objetiva para realizar a avaliação, isto é, fugir da responsabilidade do julgamento. Mas neste caso nenhuma métrica é objetiva, os dados escolhidos são subjetivos e ideológicos. Hoje há uma visão de que a única cois que vale são publicações. Agora me surgiu uma ideia: não seria melhor colocar uma montanha de dados para um algoritmo de ‘superhuman’ DeepMind AI e verificar os resultados? A menos que a resposta fosse 42… Como vemos há uma tendência a perdermos o foco de qualquer coisa e procurar a solução mais fácil e barata. Aliás, há a famosa frase sobre os caminhos:

“Entrai pela porta estreita, porque larga é a porta, e espaçoso, o caminho que conduz à perdição, e muitos são os que entram por ela; e porque estreita é a porta, e apertado, o caminho que leva à vida, e poucos há que a encontrem”.

É isto que realmente ocorre, achar a qualidade é essencial, achar um método que escala é fácil mas de menor qualidade. Esta qualidade desejada se consegue trabalhando em bons problemas e com grupos consistentes. A escolha destes problemas reais é essencial, a criação de grupos hierárquicos para trabalhar com estes problemas é essencial. Um assunto que precisa ser discutido é a diversidade cultural e de perfis de trabalho na pós-graduação. Atualmente está aceito que a diversidade nos grupos sociais e acadêmicos é um dos melhores fatores para aumentar a eficiência e a criatividade. Culturas, gêneros e opiniões diferentes favorecem o convívio e abrem novas possibilidades para o tratamento dos temas de trabalho. Pergunto: “Por que isto não acontece nas pós-graduações?”. O consenso é que só devem participar dos programas professores-pesquisadores com um número alto de publicações em journals com alto fator de impacto. Mas um grupo criativo é algo bem diferente. Os coordenadores de programas de pós-graduação expurgam ótimos professores (que poderiam ministrar ótimas aulas) para aumentar os índices CAPES. Isto é uma exclusão. Aqueles que são dotados para a implementação também são excluídos, sobram apenas os publicadores. Com este comportamento perdemos muitas pessoas que seriam importantes para a formação de nossos alunos e para o desenvolvimento dos projetos. Isto sem contar com a criatividade oriunda da diversidade de perfis. O ponto central não é a qualidade e criatividade do grupo, mas sua adequação à bibliometria avaliativa. Se quisermos qualidade real será preciso uma profunda mudança em nossos critérios.

Resumindo: precisamos de bons problemas, grupos com diversidade e qualidade, hierarquia na pesquisa e avaliação por julgamento. Mas como este dito anônimo retrata:

As Universidades e os cemitérios são refratários às mudanças, os que ali estão não querem se mover.

A parte disto considero que estamos dando a mensagem errada para os jovens, tanto alunos quanto pesquisadores. O importante não é a contagem de artigos, mas a pesquisa de qualidade. Entendo que dependemos do dinheiro da CAPES e que devemos nos preocupar com a avaliação, é o caso de fazer o que quem paga quer (não vou considerar profissões assim…). Mas a avaliação deveria ser consequência de uma boa pesquisa e não obtida por regras.

 

CNPq – Popularização da Ciência

Por que popularizar?

Logo CNPqA partir das mudanças tecnológicas que ocorreram na última metade do século XX, causadas principalmente pelo advento da tecnologia da informação e das novas formas de comunicação, a ciência e tecnologia passaram a ser fundamentais e determinantes para o desenvolvimento econômico e social de qualquer país, com consequências diretas para o mercado de trabalho e para a demanda pela qualificação de profissionais.

O desenvolvimento científico e tecnológico também introduziu novos temas de pesquisa, que foram levados à pauta do debate na sociedade, e grande parte deles referem-se à relação do homem com o meio ambiente, notadamente à sua sustentabilidade. Discutidos em nível mundial, esses temas colocam os desafios da proteção ambiental e do desenvolvimento sustentável e trazem para a consciência pública a necessidade de mais informações e maior participação e controle.

Lixo, poluição da água e do ar, camada de ozônio, chuva ácida e outros mais, são problemas que afetam a todos e envolvem valores e atitudes de indivíduos que podem por em risco a sobrevivência, segurança e bem-estar não apenas deles mesmos, mas também da sociedade em que vivem.

Diante do processo de democratização, novos questionamentos relativos à responsabilidade social do conhecimento e à conquista da cidadania são igualmente incorporados ao debate, de modo a que os indivíduos desenvolvam maior consciência e responsabilidade pelos seus atos. O desenvolvimento científico e tecnológico atinge, assim, o cidadão comum, que muitas vezes está longe do mercado técnico-científico, mas que deve possuir um pensamento crítico e reflexivo para se posicionar diante dos problemas que o rodeiam.

Deverá estar cada vez mais incorporado ao cidadão o espaço dos seus direitos e deveres, influindo no caminho das soluções técnico-científicas e pressionando pela incorporação dos benefícios sociais da pesquisa científica e tecnológica ao seu cotidiano. Bem-estar, segurança e sobrevivência são objetivos a serem perseguidos pelo desenvolvimento científico e tecnológico para toda a humanidade.

Porém, para que essa dimensão se concretize, é preciso que os resultados científicos e tecnológicos sejam divulgados para além da academia e alcancem a sociedade, realizando, assim, a popularização da ciência. Nesse sentido, a pesquisa científica e tecnológica deverá ouvir mais a sociedade e, por outro lado, a sociedade deverá acompanhar mais esse desenvolvimento, por meio da sua divulgação para um público amplo.

Para isso, a formação escolar deverá desenvolver hábitos mentais e atitudes que atendam ao indivíduo nas suas necessidade formativas e informativas, para que ele se torne efetivamente um cidadão consciente de seus direitos e deveres e capaz de exercer a democracia, lidando com o diferente e o antagônico.

Por outro lado, a formação do indivíduo está cada vez menos restrita ao espaço escolar. Ampliaram-se os espaços de formação complementar, como museus e centros de ciência, exposições, publicações etc., que efetivamente contribuem para a cultura científica, despertando o interesse pela ciência e ampliando o conhecimento de sua importância no cotidiano da vida social moderna, bem como para a conservação do patrimônio histórico e cultural de um povo.

A formação do cientista e do tecnólogo, portanto, deve estar aberta às questões éticas do desenvolvimento científico e tecnológico, como também para discutir a responsabilidade ético-político-social do cientista.

Coordenação de Comunicação Social do CNPq