The Vienna Manifesto on Digital Humanism

Como resultado do 1st International Workshop on Digital Humanism (https://www.informatik.tuwien.ac.at/dighum/workshop/), realizado em Viena em abril deste ano e reunindo cientistas de diferentes áreas de conhecimento, foi elaborado o Vienna Manifesto on Digital Humanism (https://www.informatik.tuwien.ac.at/dighum/index.php). Ele é assinado pelos importantes pesquisadores presentes ao evento (Moshe Vardi entre eles) e está aberto a adesões por outros pesquisadores; eu já assinei!

Para os Grandes Desafios em Computação da SBC eu havia escrito este texto (2006 – antes da época!) https://www.palazzo.pro.br/Wordpress/?p=46


The first international workshop on Digital Humanism was held in Vienna, Austria, April 4 – 5, 2019. It was organized by the Faculty of Informatics of TU Wien, and supported by the Vienna Science and Technology Fund, and the Viennese Municipal Department for Economic Affairs, Labor and Statistics.

In the two-day workshop over 100 attendees from academia, governmental organizations, industry and civil society participated in a very lively and interactive way. The program consisted of three main sessions, namely

  • History and Impact of Information Technology
  • Humans and Society, AI and Ethics
  • Dynamics of a New World – Issues and Answers

In a total, there were 12 invited speakers and a final panel, drawing conclusions and identifying possible future directions. Presentations and discussions focused on technical, political, economic, societal and legal issues; and benefited from contributions from the different disciplines represented at the workshop (i.e., political science, law, sociology, history, anthropology, philosophy, economics and informatics). At the center of the discussion was the relationship between computer science / informatics and society, or, as expressed during the workshop, the co-evolution of IT and humankind.


We must shape technologies in accordance with human values and needs, instead of allowing technologies to shape humans. Our task is not only to rein in the downsides of information and communication technologies, but to encourage human-centered innovation. We call for a Digital Humanism that describes, analyzes, and, most importantly, influences the complex interplay of technology and humankind, for a better society and life, fully respecting universal human rights.

In conclusion, we proclaim the following core principles:

  • Digital technologies should be designed to promote democracy and inclusion. This will require special efforts to overcome current inequalities and to use the emancipatory potential of digital technologies to make our societies more inclusive.
  • Privacy and freedom of speech are essential values for democracy and should be at the center of our activities. Therefore, artifacts such as social media or online platforms need to be altered to better safeguard the free expression of opinion, the dissemination of information, and the protection of privacy.
  • Effective regulations, rules and laws, based on a broad public discourse, must be established. They should ensure prediction accuracy, fairness and equality, accountability, and transparency of software programs and algorithms.
  • Regulators need to intervene with tech monopolies. It is necessary to restore market competitiveness as tech monopolies concentrate market power and stifle innovation. Governments should not leave all decisions to markets.
  • Decisions with consequences that have the potential to affect individual or collective human rights must continue to be made by humans. Decision makers must be responsible and accountable for their decisions. Automated decision making systems should only support human decision making, not replace it.
  • Scientific approaches crossing different disciplines are a prerequisite for tackling the challenges ahead. Technological disciplines such as computer science / informatics must collaborate with social sciences, humanities, and other sciences, breaking disciplinary silos.
  • Universities are the place where new knowledge is produced and critical thought is cultivated. Hence, they have a special responsibility and have to be aware of that.
  • Academic and industrial researchers must engage openly with wider society and reflect upon their approaches. This needs to be embedded in the practice of producing new knowledge and technologies, while at the same time defending the freedom of thought and science.
  • Practitioners everywhere ought to acknowledge their shared responsibility for the impact of information technologies. They need to understand that no technology is neutral and be sensitized to see both potential benefits and possible downsides.
  • A vision is needed for new educational curricula, combining knowledge from the humanities, the social sciences, and engineering studies. In the age of automated decision making and AI, creativity and attention to human aspects are crucial to the education of future engineers and technologists.
  • Education on computer science / informatics and its societal impact must start as early as possible. Students should learn to combine information-technology skills with awareness of the ethical and societal issues at stake.

Publicações, avaliação e multidisciplinaridade

Atualmente fala-se muito sobre diversidade, na academia discute-se a necessidade de uma formação  ampla e contemplando diferentes dimensões. Por outro lado a avaliação dos programas de pós-graduação e dos pesquisadores continua ou torna-se mais concentrada: é o conhecido problema da bolha social. Este é um problema muito bem conhecido em sistemas de recomendação, um grupo de pessoas reforça sistematicamente suas preferências e exclui tudo o que é estranho. O mesmo se passa atualmente com nações que criam o ‘civilisation state‘ negando um modelo de civilização global. Um ‘civilisation state‘ é uma nação que afirma representar não apenas um território histórico ou uma língua ou grupo étnico específico, mas uma civilização distinta baseada em sua história e inerente superioridade. 

Retornado para o problema da avaliação; a maior parte dos programas não aceita a produção de seus pesquisadores em outras áreas de conhecimento. Por muita pressão aceitam um certo número de publicações, mas sempre com a avaliação de sua área!  Ora, será que, por exemplo, a área de Ciência da Computação é melhor habilitada para avaliar um artigo de Genética? O argumento é que a avaliação é feita sobre o conteúdo de Ciência da Computação no artigo de Genética. Isso é apenas, em minha visão, um exemplo de ‘civilisation state‘ em que o grupo acredita que por seu histórico, sua competência é melhor qualificado para avaliar a contribuição – nesse caso monocultural – na sua área. Usei o exemplo da CC pois é minha área, mas isso acontece em todas as áreas que acompanho. Esse fato é limitador da abertura do pensamento e da multidisciplinaridade e da consequente inovação resultante. 

Minha proposta para quebrar este modelo ultrapassado: devemos aceitar uma percentagem de publicações, digamos 30%, de qualquer área complementar na pesquisa por sua avaliação na sua área fundamental. Este é um primeiro passo para construir pontes entre as áreas de conhecimento e para desmontar os muros que separam os diferentes grupos de pesquisa nas Universidades.

Artigos, teses e dissertações: o que é mais consultado?

Eu sempre achava que teses e dissertações só seriam lidas pela banca e por uns poucos pesquisadores relacionados com o projeto. Há um ano, mais ou menos, resolvi dar uma olhada nos acessos às teses de meus ex-orientandos no sistema da UFRGS e tive um grande surpresa! Olhem os gráficos a seguir:

O primeiro histograma é uma dissertação de mestrado, o segundo e terceiro são teses de doutorado, mesmo a mais recente já tem um número expressivo de acessos.

Conclusão: Muito cuidado e esforço para redigir uma boa tese ou dissertação!

As pessoas já entenderam que a bibliografia naïf que conta o número de artigos e não a qualidade intrínseca do trabalho não estimula a leitura de artigos bem fatiados, preferem buscar a qualidade do trabalho. Um texto completo de uma tese ou dissertação é muito melhor, tem qualidade intrínseca baseada na apresentação completa do trabalho de pesquisa. Eu gostaria que um aluno meu de doutorado publicasse UM artigo de alta qualidade e não uns 5 ou seis com QUALIS do índice restrito, mas cada um apresentando uma pequena faceta do seu trabalho.

 

Sou culpado?

Com os problemas que estão aflorando nas Universidades resolvi reescrever este texto sobre a ideia de transferir a responsabilidade do estudo para as instituições e professores de forma a isentar os alunos de suas responsabilidades. Tem ocorrido problemas sérios de alunos de pós-graduação deprimidos, até tentativas de suicídio. Outros reclamando da Universidade pois os conhecimentos exigidos são acima do que estudaram (?) na escola. Estamos em um declínio tão grande no esforço pela qualificação e real competitividade e qualidade no ensino e pesquisa que algo precisa ser feito. Certamente estamos mais exigentes e há pessoas com expectativas acima de suas possibilidades. Humanamente devemos ter sensibilidade para tentar apoiar e salvar estas pessoas. Por outro lado a geração “floco de neve” existe. O “politicamente correto” deixa todos com uma sensibilidade extrema e impede a formação para enfrentar a adversidade. Tenho acompanhado o tema nas universidades nos USA com os cuidados extremos para não ferir susceptibilidades. O problema é a falta de resiliência para “não enfrentar as amarguras da vida”, para mim aí está a falha: precisamos mostrar para os jovens que lutar é bom e falhar não é uma desonra, desonra é não lutar.

No Brasil a famosa frase de Winston Churchill – “Blood, Toil, Tears and Sweat” foi simplificada para “Sangue, Suor e Lágrimas” a palavra Toil desapareceu!

 intr.v. toil
           1. To labor continuously; work strenuously.
           2. To proceed with difficulty: toiling over the mountains.

Seguindo esta famosa frase incluo um comentário sobre o cenário da época na Inglaterra.

Homens de 18 anos pilotavam caças Spitfire para defender Londres, que era bombardeada por pilotos da Luftwaffe, de 19 anos. Com a guerra milhões morreram e os que sobreviveram voltaram para casa e tiveram que trabalhar duro para reconstruir seus países, tiveram filhos e envelheceram. Comiam o que tinha pra comer. Economizavam o que podiam e cuidavam de suas famílias.
Hoje a adolescência vai até os 35 anos.

  • Muitas crises.
  • Mundo cruel.
  • Muitas decisões.
  • Muita pressão.
  • Tudo o que foi construído, até hoje, está equivocado.
Conclusão (de um antigo ditado Romano):
  • Tempos difíceis criam pessoas fortes. 
  • Pessoas fortes criam tempos fáceis. 
  • Tempos fáceis criam pessoas fracas. 
  • Pessoas fracas criam tempos difíceis.

Em uma antiga discussão na lista da SBC apareceu esta frase: O fato é que a Universidade deixou de ser o centro do conhecimento humano para se tornar uma fábrica de profissionais” isto é o fim da nossa possibilidade de termos um futuro brilhante. Em um painel do CSBC, sobre o centenário de Turing, foi perguntado à mesa “Qual seria a possibilidade de termos no Brasil um Turing Award? (este prêmio é a consagração de um pesquisador em Computação)”. A resposta foi contundente: “Zero!”. Concordo plenamente com esta resposta, com a implantação do culto à mediocridade, à responsabilização dos outros pelas nossas falhas e fraquezas nunca seremos uma comunidade de excepcional qualidade. Nós, os professores, devemos ter consciência que estão nos manipulando com este conceito de culpa. Nós não somos culpados, culpados são os fracos e os desinteressados que não querem trabalhar pesadamente para atingir a vitória. Nossa responsabilidade é exigir qualidade e dedicação aos nossos alunos. Aqueles que são professores em Universidades Públicas têm a responsabilidade adicional de não serem contagiados com esta falsa culpabilidade e mostrar aos alunos que eles são os que estão gastando recursos públicos e que têm a responsabilidade de dar “Blood, Toil, Tears and Sweat” como agradecimento aos brasileiros que pagam impostos.

Universal Guidelines for Artificial Intelligence

23 October 2018
Brussels, Belgium

New developments in Artificial Intelligence are transforming the world, from science and industry to government administration and finance. The rise of AI decision-making also implicates fundamental rights of fairness, accountability, and transparency. Modern data analysis produces significant outcomes that have real life consequences for people in employment, housing, credit, commerce, and criminal sentencing. Many of these techniques are entirely opaque, leaving individuals unaware whether the decisions were accurate, fair, or even about them.

We propose these Universal Guidelines to inform and improve the design and use of AI. The Guidelines are intended to maximize the benefits of AI, to minimize the risk, and to ensure the protection of human rights. These Guidelines should be incorporated into ethical standards, adopted in national law and international agreements, and built into the design of systems.  We state clearly that the primary responsibility for AI systems must reside with those institutions that fund, develop, and deploy these systems.

  1. Right to Transparency. All individuals have the right to know the basis of an AI decision that concerns them. This includes access to the factors, the logic, and techniques that produced the outcome.
  2. Right to Human Determination. All individuals have the right to a final determination made by a person.
  3. Identification Obligation. The institution responsible for an AI system must be made known to the public.
  4. Fairness Obligation. Institutions must ensure that AI systems do not reflect unfair bias or make impermissible discriminatory decisions.
  5. Assessment and Accountability Obligation. An AI system should be deployed only after an adequate evaluation of its purpose and objectives, its benefits, as well as its risks. Institutions must be responsible for decisions made by an AI system.
  6. Accuracy, Reliability, and Validity Obligations. Institutions must ensure the accuracy, reliability, and validity of decisions.
  7. Data Quality Obligation. Institutions must establish data provenance, and assure quality and relevance for the data input into algorithms.
  8. Public Safety Obligation. Institutions must assess the public safety risks that arise from the deployment of AI systems that direct or control physical devices, and implement safety controls.
  9. Cybersecurity Obligation. Institutions must secure AI systems against cybersecurity threats.
  10. Prohibition on Secret Profiling. No institution shall establish or maintain a secret profiling system.
  11. Prohibition on Unitary Scoring. No national government shall establish or maintain a general-purpose score on its citizens or residents.
  12. Termination Obligation. An institution that has established an AI system has an affirmative obligation to terminate the system if human control of the system is no longer possible.

Vejam também o “Explanatory Memorandum and References”:

https://thepublicvoice.org/ai-universal-guidelines/memo/

Vencer na Universidade em uma época de crise

Fui convidado para apresentar a palestra de abertura do 5º Simpósio de Ensino, Extensão,  Inovação, Pesquisa e Pós-graduação e 24° Seminário de Iniciação Científica da Universidade Estadual de Santa Cruz/Ilhéus-BA. O tema esta ano foi “Ciência no Brasil: consequências da (des)valorização”. 

Nesta apresentação procuro mostrar que precisamos ter consciência de nossa responsabilidade em mostrar para a Sociedade a importância e os resultados da Ciência no Brasil. A apresentação deixa claro que é nossa responsabilidade uma dedicação completa e um trabalho árduo para que tenhamos resultados significativos na pesquisa. A dedicação, o trabalho e criação de grupos criativos é essencial para um salto de qualidade na pesquisa. 

2018_Ilheus

 

Novo artigo: Um Modelo Ontológico Probabilístico para Assistir Pessoas com Declínio Cognitivo

Autores: Gabriel Machado Lunardi, Guilherme Medeiros Machado, Alencar Machado, José Palazzo M. de Oliveira

Resumo: Fornecer lembretes a um idoso, enquanto realiza suas atividades diárias, é uma atividade de suporte ao usuário e, portanto, um tópico relevante na área de Ambientes de Vivência Assistida. Determinar tais lembretes implica na tomada de decisões, uma vez que o fluxo das ações (comportamento) de uma atividade geralmente envolve ramificações. Um sistema automatizado precisa decidir qual das próximas ações é a melhor para o usuário em determinada situação. Problemas dessa natureza envolvem níveis de incerteza que precisam ser tratados. Muitas abordagens para esse problema exploram apenas dados estatísticos, ignorando tecnologias semânticas importantes, como, por exemplo, a utilização de ontologias. Apesar de importantes, as ontologias não suportam, de forma nativa, o raciocínio sobre a incerteza. Por isso, neste artigo é apresentado um modelo ontológico, com uma extensão probabilística, que permite raciocinar sobre a incerteza sem perder informação semântica. Esse modelo é avaliado por meio de um estudo de caso no qual demonstra-se uma instanciação com dados reais.

ONTOBRAS 2018, Proceedings of the XI Seminar on Ontology Research in Brazil, São Paulo, Brazil, October 1st-3rd, 2018. Edited by: Joel Luís Carbonera, Giancarlo Guizzardi, Sandro Rama Fiorini, Mara Abel, Vol-2228, ISSN 1613-0073, p. 185-196 – http://ceur-ws.org/Vol-2228/paper13.pdf