The Vienna Manifesto on Digital Humanism

Como resultado do 1st International Workshop on Digital Humanism (https://www.informatik.tuwien.ac.at/dighum/workshop/), realizado em Viena em abril deste ano e reunindo cientistas de diferentes áreas de conhecimento, foi elaborado o Vienna Manifesto on Digital Humanism (https://www.informatik.tuwien.ac.at/dighum/index.php). Ele é assinado pelos importantes pesquisadores presentes ao evento (Moshe Vardi entre eles) e está aberto a adesões por outros pesquisadores; eu já assinei!

Para os Grandes Desafios em Computação da SBC eu havia escrito este texto (2006 – antes da época!) https://www.palazzo.pro.br/Wordpress/?p=46


The first international workshop on Digital Humanism was held in Vienna, Austria, April 4 – 5, 2019. It was organized by the Faculty of Informatics of TU Wien, and supported by the Vienna Science and Technology Fund, and the Viennese Municipal Department for Economic Affairs, Labor and Statistics.

In the two-day workshop over 100 attendees from academia, governmental organizations, industry and civil society participated in a very lively and interactive way. The program consisted of three main sessions, namely

  • History and Impact of Information Technology
  • Humans and Society, AI and Ethics
  • Dynamics of a New World – Issues and Answers

In a total, there were 12 invited speakers and a final panel, drawing conclusions and identifying possible future directions. Presentations and discussions focused on technical, political, economic, societal and legal issues; and benefited from contributions from the different disciplines represented at the workshop (i.e., political science, law, sociology, history, anthropology, philosophy, economics and informatics). At the center of the discussion was the relationship between computer science / informatics and society, or, as expressed during the workshop, the co-evolution of IT and humankind.


We must shape technologies in accordance with human values and needs, instead of allowing technologies to shape humans. Our task is not only to rein in the downsides of information and communication technologies, but to encourage human-centered innovation. We call for a Digital Humanism that describes, analyzes, and, most importantly, influences the complex interplay of technology and humankind, for a better society and life, fully respecting universal human rights.

In conclusion, we proclaim the following core principles:

  • Digital technologies should be designed to promote democracy and inclusion. This will require special efforts to overcome current inequalities and to use the emancipatory potential of digital technologies to make our societies more inclusive.
  • Privacy and freedom of speech are essential values for democracy and should be at the center of our activities. Therefore, artifacts such as social media or online platforms need to be altered to better safeguard the free expression of opinion, the dissemination of information, and the protection of privacy.
  • Effective regulations, rules and laws, based on a broad public discourse, must be established. They should ensure prediction accuracy, fairness and equality, accountability, and transparency of software programs and algorithms.
  • Regulators need to intervene with tech monopolies. It is necessary to restore market competitiveness as tech monopolies concentrate market power and stifle innovation. Governments should not leave all decisions to markets.
  • Decisions with consequences that have the potential to affect individual or collective human rights must continue to be made by humans. Decision makers must be responsible and accountable for their decisions. Automated decision making systems should only support human decision making, not replace it.
  • Scientific approaches crossing different disciplines are a prerequisite for tackling the challenges ahead. Technological disciplines such as computer science / informatics must collaborate with social sciences, humanities, and other sciences, breaking disciplinary silos.
  • Universities are the place where new knowledge is produced and critical thought is cultivated. Hence, they have a special responsibility and have to be aware of that.
  • Academic and industrial researchers must engage openly with wider society and reflect upon their approaches. This needs to be embedded in the practice of producing new knowledge and technologies, while at the same time defending the freedom of thought and science.
  • Practitioners everywhere ought to acknowledge their shared responsibility for the impact of information technologies. They need to understand that no technology is neutral and be sensitized to see both potential benefits and possible downsides.
  • A vision is needed for new educational curricula, combining knowledge from the humanities, the social sciences, and engineering studies. In the age of automated decision making and AI, creativity and attention to human aspects are crucial to the education of future engineers and technologists.
  • Education on computer science / informatics and its societal impact must start as early as possible. Students should learn to combine information-technology skills with awareness of the ethical and societal issues at stake.

Universal Guidelines for Artificial Intelligence

23 October 2018
Brussels, Belgium

New developments in Artificial Intelligence are transforming the world, from science and industry to government administration and finance. The rise of AI decision-making also implicates fundamental rights of fairness, accountability, and transparency. Modern data analysis produces significant outcomes that have real life consequences for people in employment, housing, credit, commerce, and criminal sentencing. Many of these techniques are entirely opaque, leaving individuals unaware whether the decisions were accurate, fair, or even about them.

We propose these Universal Guidelines to inform and improve the design and use of AI. The Guidelines are intended to maximize the benefits of AI, to minimize the risk, and to ensure the protection of human rights. These Guidelines should be incorporated into ethical standards, adopted in national law and international agreements, and built into the design of systems.  We state clearly that the primary responsibility for AI systems must reside with those institutions that fund, develop, and deploy these systems.

  1. Right to Transparency. All individuals have the right to know the basis of an AI decision that concerns them. This includes access to the factors, the logic, and techniques that produced the outcome.
  2. Right to Human Determination. All individuals have the right to a final determination made by a person.
  3. Identification Obligation. The institution responsible for an AI system must be made known to the public.
  4. Fairness Obligation. Institutions must ensure that AI systems do not reflect unfair bias or make impermissible discriminatory decisions.
  5. Assessment and Accountability Obligation. An AI system should be deployed only after an adequate evaluation of its purpose and objectives, its benefits, as well as its risks. Institutions must be responsible for decisions made by an AI system.
  6. Accuracy, Reliability, and Validity Obligations. Institutions must ensure the accuracy, reliability, and validity of decisions.
  7. Data Quality Obligation. Institutions must establish data provenance, and assure quality and relevance for the data input into algorithms.
  8. Public Safety Obligation. Institutions must assess the public safety risks that arise from the deployment of AI systems that direct or control physical devices, and implement safety controls.
  9. Cybersecurity Obligation. Institutions must secure AI systems against cybersecurity threats.
  10. Prohibition on Secret Profiling. No institution shall establish or maintain a secret profiling system.
  11. Prohibition on Unitary Scoring. No national government shall establish or maintain a general-purpose score on its citizens or residents.
  12. Termination Obligation. An institution that has established an AI system has an affirmative obligation to terminate the system if human control of the system is no longer possible.

Vejam também o “Explanatory Memorandum and References”:

https://thepublicvoice.org/ai-universal-guidelines/memo/

Une histoire buissonière de la France {Graham Robb} 2011


O original deste livro é The Discovery of France mas a tradução francesa é de muito boa qualidade e o título muito melhor do que o original. O autor, Graham Macdonald Robb é um escritor inglês. Em 28 de abril de 2008 ele recebeu o prêmio Ondaatje Prize da Royal Society of Literature por este livro. É uma leitura realmente interessante pois mostra a França como um mosaico de culturas e regiões se integrando, aos poucos, para formar o país que hoje conhecemos.  O autor, professor de literatura, conta a história da França profunda além dos subúrbios de Paris. Esta é uma França muito diferente da que estudamos na história escolar, que trata da Monarquia, da Revolução e da República, mostrando a vida real do povo e das localidades com suas culturas específicas e, muitas vezes, ignorando o poder central. A descrição não é livresca, o autor adicionou aos seus estudos formais vinte e dois mil e quinhentos quilômetros de bicicleta pelo interior. A isto somou quatro anos de pesquisas bibliográficas. Uma leitura indispensável para conhecermos mais profundamente a cultura real francesa.

An open letter from women of science


Recebi este texto de colegas dos USA. Considero importante sua divulgação. Para informações mais detalhadas há este link:

WOMEN IN SCIENCE – JOIN US


Mulher Science is foundational in a progressive society, fuels innovation, and touches the lives of every person on this planet. The anti-knowledge and anti-science sentiments expressed repeatedly during the U.S. presidential election threaten the very foundations of our society. Our work as scientists and our values as human beings are under attack. We fear that the scientific progress and momentum in tackling our biggest challenges, including staving off the worst impacts of climate change, will be severely hindered under this next U.S. administration. Our planet cannot afford to lose any time.

In this new era of anti-science and misinformation, we as women scientists re-affirm our commitment to build a more inclusive society and scientific enterprise. We reject the hateful rhetoric that was given a voice during the U.S. presidential election and which targeted minority groups, women, LGBTQIA, immigrants, and people with disabilities, and attempted to discredit the role of science in our society. Many of us feel personally threatened by this divisive and destructive rhetoric and have turned to each other for understanding, strength, and a path forward. We are members of racial, ethnic, and religious minority groups. We are immigrants. We are people with disabilities. We are LGBTQIA. We are scientists. We are women.

Across the globe, women in science face discrimination, unequal pay, and reduced opportunities. Our work to overcome the longer-term degradation of the role science plays in society did not start with this election, but this election has re-ignited our efforts. As women scientists, we are in the position to take action to increase diversity in science and other disciplines. We resolve to continue our pursuits with renewed passion and to find innovative solutions to the problems we face in the U.S. and abroad. Together, we pledge to:

  • Identify and acknowledge structural inequalities and biases that affect the potential of all individuals to fulfill their goals;
  • Push for equality and stand up to inequality, discrimination, and aggression;
  • Push to strengthen the support for traditionally under-represented groups to fully participate in and become leaders in science;
  • Support the education and careers of all scientists;
  • Step outside of our research disciplines to communicate our science and engage with the public;
  • Use every day as an opportunity to demonstrate to young girls and women that they are welcome and needed in science;
  • Set examples through mentorship and through fostering an atmosphere of encouragement and collaboration, not one of divisiveness;
  • Use the language of science to bridge the divides that separate societies and to enhance global diplomacy.

Today, we invite the women in science and our colleagues to declare our support to each other and to all minorities, immigrants, people with disabilities, and LGBTQIA. Our scientific work may be global, yet we will take action in our own communities and we will work towards an inclusive society, where science and knowledge can be embraced and everyone has the opportunity to reach their potential.

AS WOMEN IN SCIENCE, AS ROLE MODELS TO YOUNG GIRLS AND WOMEN, AS LEADERS IN OUR COMMUNITIES, WE ACCEPT THIS CHALLENGE. JOIN US

Sapiens – Uma breve história da humanidade {Yuval Noah Harari} 2012

 


Este livro trata da nossa história. É uma leitura muito interessante para formar uma visão antropológica da evolução. Desde o início do desenvolvimento dos Humanos até os dias de hoje é feita uma descrição das lutas, da competição e da criatividade que permitiram o Homo Sapiens se tornou a espécie dominante. O importante é que a evolução está apresentada como uma sequência de revoluções: a cognitiva, a agricultural e a científica. Aliás é um modelo de revoluções parecido com o desenvolvido por Darcy Ribeiro com as Revoluções Agrícola, Urbana, do Regadio, Metalúrgica, Pastoril, Mercantil e Industrial. Este conceito é elaborado por Darcy Ribeiro no livro O Processo Civilizatório:

“Empregamos o conceito de revolução tecnológica para indicar que a certas transformações prodigiosas no equipamento de ação humana sobre a natureza, ou de ação bélica, correspondem alterações qualitativas em todo o modo de ser das sociedades {…} A sucessão destas revoluções tecnológicas não nos permite, todavia, explicar a totalidade do processo evolutivo sem apelo ao conceito complementar do processo civilizatório, porque não é a invenção original ou reiterada de uma inovação que gera conseqüências, mas sua propagação sobre diversos contextos socioculturais e sua aplicação a diferentes setores produtivos.”

O ponto fraco é o capítulo final que procura profetizar o futuro com a evolução da tecnologia, aqui considero que o razoável rigor acadêmico dos capítulos anteriores é prejudicado por uma visão limitada e pessimista das possibilidades tecnológicas

“Harari é brilhante […] Sapiens é realmente impressionante, de se ler num fôlego só. De fato, questiona nossas ideias preconcebidas a respeito do universo.” (The Guardian)

Um relato eletrizante sobre a aventura de nossa extraordinária espécie – de primatas insignificantes a senhores do mundo. O que possibilitou ao Homo sapiens subjugar as demais espécies? O que nos torna capazes das mais belas obras de arte, dos avanços científicos mais impensáveis e das mais horripilantes guerras? Yuval Noah Harari aborda de forma brilhante estas e muitas outras questões da nossa evolução. Ele repassa a história da humanidade, relacionando com questões do presente. E consegue isso de maneira surpreendente. Doutor em história pela Universidade de Oxford e professor do departamento de História da Universidade Hebraica de Jerusalém, seu livro não entrou por acaso nas listas dos mais vendidos de 40 países para os quais foi traduzido.


 

Computadores, criatividade, estética e qualidade

  

 Na Aula Magna, que marca a abertura do semestre letivo, o crítico, filósofo e professor italiano Nuccio Ordine, um dos maiores conhecedores sobre a Renascença na atualidade e grande especialista na obra de Giordano Bruno ministrou a conferência “A Utilidade dos Saberes Inúteis”. Esta palestra me lembrou de um texto que havia submetido para o seminário “Perspectivas e Grandes Desafios da Computação no Brasil 2006-2016”. Certamente as ideias que apresentei naquele momento se alinham perfeitamente a esta visão não-utilitarista. Eu tinha tratado de tema muito próximo quando discuti a integração da Arte e da Computação: Perspectivas e Grandes Desafios da Computação no Brasil 2006-2016. Agora fica, cada vez mais claro que precisamos evitar a exclusão da interdisciplinariedade de nossos programas de pós-graduação. 

 Na Aula Mágna o professor defende a valorização dos conhecimentos não ligados diretamente ao alcance de resultados práticos, os chamados saberes “inúteis”, mas que são fundamentais para sedimentar as bases para um pensamento crítico da sociedade. Também desaprova o que chama de “empresariamento” do conhecimento científico, orientado pela lógica da produtividade extrema dentro do universo acadêmico. Para ele, essa prática ameaça a possibilidade de conceber a universidade como um lugar no qual se reflete, se ensina, se faz pesquisa. De acordo com o filósofo, a ótica utilitarista e do culto à posse acaba diminuindo a essência das pessoas, pondo em risco não só a cultura, a criatividade e as instituições de ensino, mas valores fundamentais como a dignidade humana, o amor e a verdade.

Tecnologia, Publicações e Humanismo


Estive lendo e participando da conversação na sbc-l sobre os MOOCs. Sempre, mesmo atuando em EAD e com boa produção na área, tive restrições sobre esta nova onda que supervaloriza a tecnologia. As minhas restrições são dirigidas a ideia, amplamente difundida, que a utilização de tecnologia é a solução para todos os problemas do ensino. Estas posições são fontes de contravalores criados pela radical racionalidade do que é tido como “ciência e tecnologia”. Ciência e tecnologia podem ser importantes como ferramentas para apoiar modelos pedagógicos, mas nunca a salvação do ensino.  Do lado negativo do culto à tecnologia há uma visão de que ela seja a solução para os problemas de difusão do conhecimento e mesmo de geração do conhecimento. Precisamos ter consciência de que a tecnologia é apenas uma ferramenta e se não construirmos valores humanos e éticos estas novas tecnologias não trarão uma ruptura positiva na Educação, mas uma baixa na qualidade da comunicação, do estudo e do comportamento social. Não é possível substituir a Universidade, como fonte de estudo, pensamento filosófico, crítica de valores sociais e humanismo, por ferramentas computacionais.Um assunto preocupante hoje é a falta de perspectiva ética e análise da responsabilidade social no desenvolvimento de tecnologias. O debate sobre os MOOCs é um exemplo, há um deslumbramento sobre esta tecnologia sem o devido estudo das repercussões sobre o ensino e a formação. Apresentei recentemeente, no Instituto Humanitas da UNISINOS, uma palestra sobre o tema  “Sociedade tecnocientífica e os desafios éticos”. A apresentação está disponível em: Tecnologia, Cultura e Humanismo.