This article investigates the metaphor of the “black box” in artificial intelligence, a representation that often suggests that AI is an unfathomable power, politically uncontrollable and shrouded in an aura of opacity. While the concept of the “black box” is legitimate and applicable in deep neural networks due to the in- herent complexity of the process, it has also become a generic pretext for the perception, which we seek to critically analyze, that AI systems are inscrutable and out of control, (...) as well as supposedly endowed with intel- ligence and creativity. To challenge these ideas, we will address what we call the supremacy of patterns and the two significant phenomena that result from it: enchanted determinism and the dictatorship of the past. (shrink)

As the world of technology increasingly intersects with humanity, one name stands out as a guide in this complex and ever-changing territory: James Hughes. In this interview, we had the opportunity not only to learn more about the author’s thinking and expertise, but also to explore the perspectives he brings on the technological future.

Human improvement is epistemologically challenging and has awakened a wide range of academic and public debates, especially considering the possible ethical and political consequences of its regulation. This article focuses on a selection of conceptual questions about cognitive enhancement and defends, through the discussion, the role of cognitive artifacts and the insufficiency of a strictly materialistic vision of enhancement techniques. The article approaches 3 specific questions: first, that the concept of enhancement should not be linked only with biotechnological artifacts; second, (...) that the most potent technologies of the near future will be those that offer user integration and transformation with machines without the need for implants or surgery; and third, that cognitive artifacts, i.e. non-biological material devices coupled to cognitive system functions, are responsible for the course of human enhancement throughout history. Thus, we do not need a moral compass to evaluate all dimensions and risks that human enhancement can elicit, since traditional conservatism about enhancement limits itself to the idea that the growth of our powers would make our values unsustainable and put the current way of human life at risk. (shrink)

A partir da hipótese de que a inteligência artificial como tal não representaria o fim da supremacia humana, uma vez que, na essência, a IA somente simularia e aumentaria aspectos da inteligência humana em artefatos não biológicos, o presente artigo questiona sobre o risco real a ser enfrentado. Para além do embate entre tecnofóbicos e tecnofílicos, o que se defende, então, é que as possíveis falhas de funcionamento de uma inteligência artificial – decorrentes de sobrecarga de informação, de uma programação (...) equivocada ou de uma aleatoriedade do sistema – poderiam sinalizar os verdadeiros riscos existenciais, sobretudo quando se considera que o cérebro biológico, na esteira do viés da automação, tende a assumir de maneira acrítica aquilo que é posto por sistemas ancorados em inteligência artificial. Além disso, o argumento aqui defendido é que falhas não detectáveis pela provável limitação de controle humano quanto ao aumento de complexidade do funcionamento de sistemas de IA representam o principal risco existencial real. Palavras-chave: Inteligência artificial, risco existencial, superinteligências, controle humano. (shrink)

: Este artigo tem por objetivo sustentar a hipercognição, resultado da interação da cognição humanacom os artefatos interativos provenientes da Convergência Tecnológica NBIC,como perspectiva factível perante as teses pós-humanistas que esboçam uma transformação ontológica doser humano a partir da fusão com máquinas. A factibilidade da hipercognição está alicerçada na concepçãode cognição sustentada pelo externalismo ativo, em especial o de Andy Clark, para o qual o ambiente possuicaracterísticas relevantes o suficiente para desempenhar um papel protagonista no processo de cognição,uma vez que (...) os humanos já seriam, por natureza, peritos na tarefa de incorporar material não biológico emsuas rotinas físicas e cognitivas. A simbiose entre humanos e máquinasseria algo que decorreria naturalmente, sobretudo na acepção de que os processos cognitivos seriamdependentes de ajuda externas. No contexto da Convergência Tecnológica NBIC, essa simbiose é o quepossibilita a hipercognição. (shrink)

“Pós-humano” se tornou um termo guarda-chuva para se referir à variedade de escolas de pensamento e diferentes movimentos, incluindo o pós-humanismo filosófico, cultural e crítico; transumanismo ; a abordagem feminista dos novos materialismos; o panorama heterogêneo do anti-humanismo, meta-humanismo, meta-humanidades e pós-humanidades. Tal uso genérico e abrangente do termo criou confusões metodológicas e teóricas entre especialistas e não especialistas. Este ensaio irá explorar as diferenças entre esses movimentos, focando particularmente nas áreas de significação compartilhadas pelo pós-humanismo e transumanismo. Ao apresentar (...) essas duas filosofias independentes, ainda que relacionadas, o pós-humanismo pode-se provar um ponto de vista mais compreensível para refletir sobre futuros possíveis. (shrink)