Entrevista a Gordana Dodig-Crnkovic
Investigadora en computación natural, morfológica y cognitiva
Esta entrevista fue originalmente realizada en inglés por email. Por tanto, primero se ofrece una traducción al español, y al final, se encuentra la versión original.
This interview was originally conducted in English by email. The Spanish translation is provided first, followed by the original version.
Gordana Dodig-Crnkovic obtuvo su primer doctorado en Física Teórica desde la Universidad de Zagreb, en 1988. Su carrera se divide en tres décadas. La primera estuvo dedicada a la Física, trabajando en el Instituto de Investigación Rudjer Boskovic en Zagreb. La siguiente década la pasó en la industria, trabajando para la compañía sueca ABB como analista de seguridad crítica para ABB Atom. Y en la última década, se trasladó a la ciencia de la computación, obteniendo su segundo doctorado en Ciencias de la Computación en la Universidad de Mälardalen en Suecia en 2006.
En la actualidad es profesora de Ciencias de la Computación en la Universidad de Mälardalen y profesora de Diseño de Interacción en la Universidad de Tecnología de Chalmers, ambas en Suecia. Su investigación actual se centra en dos áreas principales. En primer lugar, estudia los mecanismos de la computación y la conexión entre la computación natural/morfológica, la información y la cognición. Su segundo enfoque se relaciona con la ética de la tecnología y el estudio del diseño computacional basado en valores. En esta entrevista nos centramos en la primera área.
Dodig-Crnkovic es un ejemplo de la capacidad de conectar y darle coherencia a ideas provenientes de distintos campos de estudios, donde la computación tiene un papel principal, pero mirando siempre hacia la ciencia y la filosofía.
Tuve la oportunidad de conocer a Gordana cuando leí su artículo «Significance of Models of Computation, from Turing Model to Natural Computation», que me provocó una grata impresión. Y luego descubrí muchos otros de sus artículos sobre temas similares que están escritos con una bella claridad.
¡Espero disfruten la entrevista!1
Versión traducida
(1) Recientemente encontré tu artículo titulado «Significance of Models of Computation, from Turing Model to Natural Computation» (Importancia de los Modelos de Computación, desde el Modelo de Turing hasta la Computación Natural) y quedé intrigado por el concepto de «Computación natural». Dado que la mayoría de las personas que leen el newsletter son programadores, me gustaría indagar más sobre este tema. ¿Podrías brindar alguna perspectiva sobre este asunto?
Gracias, Camilo, por tu pregunta. En efecto, los enfoques computacionales naturales son modelos emergentes poderosos para comprender la naturaleza. El término «computación natural» se refiere a procesos computacionales observados en la naturaleza, y la computación diseñada por humanos a menudo se inspira en la naturaleza, por lo que encontramos inspiración en la química, la física, la biología y los procesos cognitivos de lo más básico (celular) hasta la cognición humana.
Cuando se analizan fenómenos naturales complejos en términos de procesos computacionales, se mejora nuestra comprensión tanto de la naturaleza como de las posibilidades de la computación. Es un aprendizaje bidireccional, como argumentan Rozenberg y Kari en su artículo «The Many Facets of Natural Computing», describiendo nuevos posibles mecanismos que se pueden utilizar para computar, mejorar procesos computacionales, diseñar algoritmos o crear nuevos paradigmas de computación imitando a la naturaleza. Actualmente, dos dominios de la computación natural están especialmente en foco: la computación cuántica y la computación biológica.
Aquí tienes una cita ilustrativa:
La computación es un concepto útil que va más allá de las fronteras disciplinarias de la ciencia de la computación. Quizás la clase más importante de computadoras naturales se encuentra en sistemas biológicos que realizan computación en múltiples niveles. Desde redes de procesamiento de información moleculares y celulares hasta ecologías, economías y cerebros, la vida realiza cálculos. A pesar del acuerdo generalizado sobre este hecho, que se remonta a los autómatas de von Neumann y las redes neuronales de McCulloch-Pitts, aún carecemos de principios para comprender rigurosamente cómo se realiza la computación en la materia viva o activa. ¿Cuál es la naturaleza última de la computación natural que ha evolucionado y cómo podemos utilizar estos principios para diseñar tecnologías inteligentes y tejidos biológicos?
Chu D, Prokopenko M, Ray JCJ. Computation by natural systems. Interface Focus. 2018 Dec 6;8(6):20180058. doi: 10.1098/rsfs.2018.0058.
Una obra de referencia clásica es el «Handbook of Natural Computing», editado por Grzegorz Rozenberg, Thomas Bäck y Joost N. Kok. El manual abarca las principales ramas de la computación natural, que incluyen la Computación Cuántica, la Computación Evolutiva, la Computación Neural, la Computación Molecular, la Computación de Membranas, la Inteligencia de Enjambre y los Sistemas Inmunitarios Artificiales. Curiosamente, no aborda la Computación Cognitiva, que es de gran interés científico en nuestra era de la IA.
(2) En su opinión, ¿qué importancia tiene el estudio de la filosofía para las personas que se dedican a la computación?
En esta etapa del desarrollo de la computación, y especialmente en la actual revolución de la inteligencia artificial, donde el conocimiento de todos los demás campos está directamente relacionado con la computación, la división existente en campos de conocimiento dispares con diferentes suposiciones, métodos, aplicaciones y prioridades es insostenible.
La filosofía proporciona un marco común y unificador que establece conexiones entre campos de conocimiento dispares y nos ayuda a comprender y avanzar mejor. Esa fue la razón por la cual organicé un curso hace casi veinte años, que comenzó como Filosofía de la Ciencia de la Computación y se desarrolló en Filosofía de la Computación. Entre las disciplinas filosóficas, veo la filosofía natural contemporánea como el campo capaz de ejercer una fuerza cohesiva entre varios programas de investigación.
Como observó acertadamente Stephen Wolfram:
He notado una tendencia interesante. Elija cualquier campo X, desde arqueología hasta zoología. Existe ahora un «X computacional» o lo habrá pronto. Y se ve ampliamente como el futuro del campo.
Efectivamente, también existe la filosofía computacional, que utiliza técnicas computacionales para respaldar la investigación filosófica.
En el mundo de los compartimentos estancos de conocimiento especializado, la computación y la información son un lenguaje común, la lengua franca de todos esos campos. Para conectarlos, necesitamos un contexto común. El mejor que conozco es la filosofía natural computacional. Hay tres números especiales de la revista Philosophies dedicados a la Filosofía Natural Contemporánea que reúnen investigaciones interdisciplinarias de diversas disciplinas.
Creo que el enorme desarrollo de la inteligencia artificial pone de manifiesto cuestiones filosóficas profundamente relevantes para todas las personas, especialmente para aquellos que desarrollan y aplican nuevas tecnologías informáticas.
(3) Ha trabajado extensamente con modelos info-computacionales. ¿Cómo se relacionan con los conceptos de emergencia, morfología y autorregulación?
En la base de todo está la idea de computar la naturaleza, que es el modelo de la naturaleza o el universo expresado en términos de estructuras informativas con dinámica computacional. En este enfoque, cuyas raíces históricamente se remontan a John Archibald Wheeler, la información y su dinámica son relativas al observador. Definitivamente no es «inmaterial», como se puede encontrar en la web, sino relacional. La información siempre se implementa en objetos físicos, pero su significado se deriva de la relación con un observador. Por ejemplo, sabemos que diferentes seres vivos observan el mundo de diferentes maneras, según los tipos de sensores y actuadores que tienen. Algunos no pueden ver y otros ven en diferentes longitudes de onda. Un observador puede ser cualquier sistema que reciba información y actúe en función de ella. Puede ser un ser humano, pero también una sola célula, un robot o un sistema similar capaz de registrar y procesar información. En este enfoque, el mundo se describe como una red de redes de agentes computacionales que intercambian información en diferentes niveles de organización, desde escalas microscópicas hasta macroscópicas. Es importante tener en cuenta que la información es el resultado de la relación entre objetos físicos incorporados y sus procesos.
Los procesos emergentes se explican mediante las interacciones entre las partes en un nivel de organización de un sistema, que producen comportamientos que se encuentran un nivel por encima: los insectos crean enjambres, los peces forman bancos, las personas crean sociedades.
Estas interacciones entre los objetos en el universo, en una variedad de escalas, conducen a la complejización de sus estructuras. En cuanto a la emergencia, Lee Smolin hizo una observación interesante:
...el universo es un proceso para engendrar fenómenos novedosos y estados de organización, que se renovarán eternamente a medida que evolucione hacia estados de complejidad y organización cada vez mayores.
Lee Smolin, «Time Reborn», 2013.
El marco info-computacional se basa en la idea de la computación física/morfológica/corporizada (embodied). Basándose en estructuras descritas como información, los procesos en diferentes niveles de escala en la naturaleza pueden entenderse como computaciones intrínsecas y morfológicas realizadas por la materia/energía. Nuestra tecnología computacional diseñada es un subconjunto de las computaciones morfológicas realizadas por sistemas naturales a los cuales se pueden delegar tareas computacionales, como en el caso del «caminante pasivo», un robot simple cuya morfología le permite «caminar» por la pendiente sin necesidad de controles externos adicionales. Para obtener más información sobre los mecanismos computacionales subyacentes, se puede consultar el libro «How the Body Shapes the Way We Think» de Rolf Pfeifer y Josh Bongard, así como el artículo «Morphological Computation: Connecting Body, Brain, and Environment» de Rolf Pfeifer y Fumiya Iida.
(4) ¿Qué investigación le ha apasionado más y qué lecciones le dejó?
Para mí, la pregunta fundamental era cómo conectar los puntos del conocimiento fragmentario de diferentes disciplinas en un conjunto coherente. Esas disciplinas fueron las que encontré en mi desarrollo como investigador: física, computación, ciencia cognitiva, filosofía y recientemente biología, con la evolución de las especies naturales. Mi enfoque se basa en nociones fundamentales de información y computación, que son mecanismos subyacentes de generación de conocimiento. Esto no significa que el mundo sea solo información y computación, pero es una perspectiva muy útil.
Aprendí que la información y el conocimiento son relativos al observador, como mencioné. Esto no significa que sean subjetivos, sino que los observadores con una arquitectura cognitiva similar (sensores, procesamiento de información y actuadores) tendrán una «realidad» similar. La realidad de un mosquito es bastante diferente de la realidad de un humano o del mundo de una ameba. Esto nos enseña a ser humildes con respecto a nuestras creencias sobre el mundo o el Universo y lo que es real. Será interesante ver cómo será el mundo para los agentes de inteligencia artificial que pueden diseñarse de diferentes maneras y equiparse con muchos más sensores y actuadores, más potentes que los que tenemos nosotros como humanos.
(5) ¿Qué piensa sobre el futuro de la computación en los próximos años?
Estoy de acuerdo con Wolfram en que en las próximas décadas veremos una proliferación de «Computación X» no solo en campos de investigación, sino también en todos los dominios del conocimiento y la práctica, desde la academia hasta el gobierno, la atención médica y las industrias, tanto en la cultura material como en la no material en su conjunto. En mi opinión, habrá «Inteligencia X» en todas partes, que, por supuesto, será computacional. El impresionante progreso reciente de la inteligencia artificial continuará y permeará nuestra civilización.
En este prometedor escenario futuro, sin embargo, tenemos muchos desafíos que resolver, y el principal es la sostenibilidad, tanto física (con recursos materiales y energéticos limitados) como cultural y cognitiva. La participación inclusiva y democrática de las partes interesadas es otro problema central. El desarrollo tecnológico centrado en el ser humano es el imperativo fundamental que mantendrá el desarrollo de la inteligencia artificial en beneficio de toda la humanidad.
(6) ¿Cree que las funciones del cerebro se pueden simular y comprender mediante medios computacionales?
Sin duda, los comportamientos resultantes de la actividad cerebral serán simulados cada vez más computacionalmente. No hay nada mágico en cómo funcionan los sistemas vivos. Son parte de la naturaleza y, por lo tanto, fenómenos naturales. Presentan formas evolucionadas de materia capaces de percibir, actuar, aprender y adaptarse. En un futuro no muy lejano, tendremos robots lo suficientemente inteligentes con funciones similares. Aún no hemos llegado a ese punto, pero los robots conscientes, es decir, robots que se comportarán de manera que los humanos los percibirán como conscientes, no son imposibles.
Para obtener más argumentos que respalden esta perspectiva, consulta el artículo recientemente publicado «Consciousness in Artificial Intelligence: Insights from the Science of Consciousness» de Patrick Butlin, Robert Long, Eric Elmoznino, Yoshua Bengio, entre otros.
(7) ¿Qué consejo le darías a alguien que quiera profundizar en estos temas?
Existen muchas formas de abordar este nuevo y emergente paradigma info-computacional para modelar, predecir, diseñar, gestionar y controlar sistemas. Depende completamente de tu sensibilidad y preferencias personales. Este campo es multidisciplinario, interdisciplinario y transdisciplinario. Para aquellos interesados en comprender cómo funcionan las cosas, aprender de la naturaleza es un enfoque valioso. Conectar la información y la computación con la cognición es una manera poderosa de estudiar la cognición e inteligencia, lo cual es especialmente relevante hoy en día y lo será durante varias décadas. Y como mencioné, la Computación X abarcará todo tipo de dominios, incluyendo las artes, humanidades, aplicaciones prácticas de todo tipo, puedes nombrarlo.
Personalmente, las preguntas relacionadas con la cognición e inteligencia son las más emocionantes en este momento. Una mejor comprensión de la cognición basal, la capacidad de todas las células vivas para procesar información, aprender y adaptarse, puede ayudarnos a desarrollar nuevos tipos de sistemas inteligentes diseñados, así como ayudarnos a controlar procesos de enfermedad y reparación de organismos vivos. Además, la abiogénesis, el proceso que lleva a la creación de organismos vivos a partir de la materia no viva, es muy importante de comprender. Si comenzara hoy como investigador, investigaría biología computacional y cognición en el contexto de la filosofía natural computacional, centrándome en sistemas vivos y buscando conexiones interdisciplinarias con campos de investigación adyacentes, así como enfoques filosóficos y metodológicos.
Hay mucho que aprender de la naturaleza que nos ayudará a comprender cómo funcionan las cosas en realidad y cómo pueden funcionar y relacionarse entre sí. Este proceso de aprendizaje es, al mismo tiempo, el proceso de liberación de los seres humanos y la toma de cada vez más influencia en nuestras vidas.
El nuevo poder vendrá con una nueva responsabilidad hacia la humanidad y el planeta. Se aplica el antiguo adagio: «Con gran poder viene una gran responsabilidad».
Gordana Dodig-Crnkovic earned her first doctorate in Theoretical Physics from the University of Zagreb in 1988. Her career spans three decades. The first was dedicated to Physics, working at the Rudjer Boskovic Research Institute in Zagreb. The following decade was spent in industry, working for the Swedish company ABB as a criticality safety analyst for ABB Atom. In the last decade, she transitioned to computer science, earning her second doctorate in Computer Science from Mälardalen University in Sweden in 2006.
She currently holds positions as a Professor of Computer Science at Mälardalen University and a Professor of Interaction Design at Chalmers University of Technology, both in Sweden. Her current research focuses on two main areas. First, she studies the mechanisms of computation and the connection between natural/morphological computation, information, and cognition. Her second focus relates to the ethics of technology and the study of value-based computational design. In this interview, we are primarily addressing the first area.
Dodig-Crnkovic is an example of the ability to connect and give coherence to ideas from various fields of study, where computing plays a central role, but always with an eye toward science and philosophy.
I had the opportunity to get to know Gordana when I read her article “Significance of Models of Computation, from Turing Model to Natural Computation,” which left a positive impression on me. Later, I discovered many of her other articles on similar topics, all written with beautiful clarity.
Original
(1) I recently came across your article titled “Significance of Models of Computation, from Turing Model to Natural Computation” and found myself intrigued by the concept of “Natural Computation.” As the majority of the readers of this newsletter are programmers, I would like to inquire further about this topic. Could you provide some insight into this subject matter?
Thank you, Camilo, for your question. Indeed, Natural computational approaches are powerful emerging models for understanding nature. “Natural computation” refers to computational processes observed in nature, and human-designed computing is often inspired by nature, so we find inspiration in nature on the level of chemistry, physics, biology, and cognitive processes from basal (cellular) to human cognition.
When complex natural phenomena are analyzed in terms of computational processes, our understanding of both nature and the possibility of computation is enhanced. It is a two-way learning as Rozenberg and Kari argue in their paper The Many Facets of Natural Computing, describing new possible mechanisms that can be used to compute, improve computational processes, design algorithms, or create new paradigms of computing by mimicking nature. Currently, two domains of natural computing are especially in focus: quantum computing and biological computing.
Here is an illustrative quote:
Computation is a useful concept far beyond the disciplinary boundaries of computer science. Perhaps the most important class of natural computers can be found in biological systems that perform computation on multiple levels. From molecular and cellular information processing networks to ecologies, economies, and brains, life computes. Despite ubiquitous agreement on this fact going back as far as von Neumann automata and McCulloch–Pitts neural nets, we so far lack principles to understand rigorously how computation is done in living, or active, matter. What is the ultimate nature of natural computation that has evolved, and how can we use these principles to engineer intelligent technologies and biological tissues?
Chu D, Prokopenko M, Ray JCJ. Computation by natural systems. Interface Focus. 2018 Dec 6;8(6):20180058. doi: 10.1098/rsfs.2018.0058.
Classic reference work is the “Handbook of Natural Computing”, edited by Grzegorz Rozenberg, Thomas Bäck, and Joost N. Kok. The handbook spans the major branches of natural computing, including Quantum Computing, Evolutionary Computation, Neural Computation, Molecular Computing, Membrane Computing, Swarm Intelligence, and Artificial Immune Systems. Interestingly, it does not cover Cognitive Computing, which is of great scientific interest in our era of AI.
(2) In your opinion, how significant is the study of philosophy for individuals pursuing computation?
At this stage of the development of computing, and especially the ongoing AI revolution where knowledge of all other domains is directly connected to computing, the existing division into disparate knowledge fields with different assumptions, methods, applications, and priorities, is untenable. Philosophy provides a common, unifying overarching framework that brings connections between disparate knowledge fields and helps us better understand and move forward. That was the reason why I organized a course almost twenty years ago, that started as Philosophy of Computer Science and developed into Philosophy of Computing. Among philosophical disciplines, I see contemporary natural philosophy as the field capable of bringing a cohesive force among various research programs.
As Stephen Wolfram rightly observed:
I’ve noticed an interesting trend. Pick any field X, from archeology to zoology. There either is now a “computational X” or there soon will be. And it’s widely viewed as the future of the field.
Sure enough, there is also Computational philosophy, that uses computational techniques to support philosophical research.
In the world of separated silos of specialized knowledge, computation and information are a common language, lingua franca of all those fields. To connect them, we need a common context. The best one I know of is Computational natural philosophy. There are three special issues of the Journal Philosophies dedicated to Contemporary Natural Philosophy bringing together interdisciplinary research from a variety of disciplines. I believe that the enormous development of AI brings to the fore philosophical issues deeply relevant for all people, particularly those who develop and apply new computing technologies.
(3) You have worked extensively with info-computational models. How do they relate to the concepts of emergence, morphology, and self-regulation?
At the bottom is the idea of computing nature, which is the model of nature or universe expressed in terms of informational structures with computational dynamics. In this approach whose roots historically can be traced back to John Archibald Wheeler, information and its dynamics are observer-relative. Definitely not “immaterial” as one may find on the web, but relational. Information is always implemented in physical objects, but its meaning is given by the relation with an observer. For example, we know that different living beings observe the world in different ways, depending on which kinds of sensors and actuators they have. Some cannot see, and some see in different wavelengths. An observer can be any system that receives information and acts upon it. It could be a human, but also a single cell, a robot, or a similar system capable of registering and processing information. The world in this approach is described as a network of networks of computational agents exchanging information at different levels of organization, from microscopic to macroscopic scales. Important to keep in mind is that information is the result of the relation between embodied physical objects and their processes.
Emergent processes are explained through the interactions between the parts on one level of organization of a system, producing behaviors that lie one level above: insects create swarms; fish form schools, people create societies.
Those interactions between the objects in the universe, on a variety of scales, lead to the complexification of its structures. Regarding emergence, Lee Smolin made an interesting observation:
…the universe is a process for breeding novel phenomena and states of organization, which will forever renew itself as it evolves to states of ever higher complexity and organization.
Lee Smolin, Time Reborn, 2013.
The info-computational framework builds on the idea of physical/ morphological/ embodied computation. Based on structures described as information, processes at different levels of scale in nature can be understood as intrinsic, morphological computations performed by matter/energy. Our designed computational technology is a subset of morphological computations performed by natural systems to which computational tasks can be delegated, as in the case of the “Passive walker” a simple robot whose morphology makes it capable of “walking” down the slope without additional external controls. More about the underlying computational mechanisms can be found in the book “How the Body Shapes the Way We Think” by Rolf Pfeifer and Josh Bongard and e.g., the article “Morphological Computation: Connecting Body, Brain, and Environment” by Rolf Pfeifer and Fumiya Iida.
(4) What research have you been most passionate about, and what lessons did it teach you?
For me, the fundamental question was how to connect the dots of fragmentary knowledge from different disciplines into a coherent whole. Those disciplines were the ones I encountered in my development as a researcher: physics, computing, cognitive science, philosophy, and recently biology, with the evolution of natural species. My approach is based on fundamental notions of information and computation, which are underlying mechanisms of knowledge generation. It does not mean that the world is only information and computation. But it is a very useful perspective. I learned that information and knowledge are observer-relative, as I mentioned. That was a very important insight for me. It does not mean they are subjective, but means that observers with similar cognitive architecture (sensors, information processing, and actuators) will have similar ’reality’. A mosquito’s reality is rather different from a human’s reality or an amoeba’s world. This teaches us to be humble regarding our beliefs about the world or the Universe and what is real. It will be interesting to see what the world will be for AI agents that can be designed in different ways and equipped with many more and more powerful sensors and actuators compared to what we humans have.
(5) What are your thoughts on the future of computing in the years to come?
I agree with Wolfram that we in the coming decades will see a proliferation of “Computational X” through not only research fields but all knowledge and practical domains as well — from academia to government, healthcare, and industries; material and non-material culture as a whole. As I see it, there will be “Intelligent X” everywhere, which of course will be computational. Impressive recent progress of AI will continue and permeate our civilization. In this promising future scenario, we nevertheless have many challenges to solve and the main one is sustainability — physical (with limited material and energetic resources) but also cultural and cognitive. Inclusive and democratic stakeholder involvement is another central issue. Human-centric development of technology is the fundamental imperative that will keep AI development for the benefit of entire humanity.
(6) Do you believe that the functions of the brain can be simulated and comprehended through computational means?
No doubt, behaviors resulting from brain activity will be simulated computationally to an increasing degree. There is nothing magical in how living systems function. They are part of nature, and thus natural phenomena. They present evolved forms of matter, capable of sensing, acting, learning, and adaptation. We will in the not-too-distant future have intelligent enough robots with similar functions. We are not there yet, but conscious robots, that is robots that will behave so that humans will experience them as conscious, are not impossible. For more arguments for that view see the recently published article “Consciousness in Artificial Intelligence: Insights from the Science of Consciousness” by Patrick Butlin, Robert Long, Eric Elmoznino, Yoshua Bengio, et al.
(7) What advice would you give to someone who wants to delve deeper into these topics?
There are many ways to approach this new emerging info-computational paradigm of modeling, predicting, designing, managing, and controlling systems. It depends entirely on your own sensibility and preferences. The field is multidisciplinary/ crossdisciplinarity/transdisciplinary. For those who are interested in understanding how things work, learning from nature is a good approach. Connecting information and computation with cognition is a powerful way to study cognition and intelligence which are especially important today and certainly for several decades to come. And as we mentioned, Computational X will cover all sorts of domains, including arts, humanities, practical applications of all sorts, you name it.
For me, questions related to cognition and intelligence are the most exciting right now. A better understanding of basal cognition — the ability of all living cells to process information, learn, and adapt can help us develop new types of intelligent engineered systems as well as help us control processes of disease and repair of living organisms. Also, abiogenesis, the process that leads to the creation of living organisms from non-living matter is very important to understand. If I started today as a researcher, I would research computational biology and cognition in the context of computational natural philosophy, focusing on living systems and searching the interdisciplinary connections to adjacent research fields as well as philosophical and methodological approaches. There is a lot to learn from nature that will help us understand how things actually work and may work and relate to each other. That process of learning is at the same time the process of liberation of humans and taking more and more influence over our lives.
The new power will come with a new responsibility towards humanity and the planet. The age-old adage applies: “With great power comes great responsibility.”
La traducción fue realizada usando ChatGPT (GPT-3.5) con pequeñas modificaciones de mi parte para que se entendiera mejor.
Me sorprende la cantidad de modelos computacionales que existen