La inteligencia es fundamental para lo que significa ser humano. Todo lo que la civilización tiene para ofrecer, es producto de la inteligencia humana.
El ADN transmite los planos de la vida entre generaciones. Formas de vida cada vez más complejas captan información mediante sensores como ojos y oídos y la procesan en cerebros u otros sistemas para descubrir cómo reaccionar y luego actuar sobre el mundo, generando información para los músculos, por ejemplo. En algún momento durante nuestros 13.800 millones de años de historia cósmica, algo hermoso sucedió. Este procesamiento de información devino tan inteligente que las formas de vida llegaron a ser conscientes. El universo ha despertado y ha tomado conciencia de sí mismo.
Considero un triunfo que nosotros, que somos polvo de estrellas, hayamos llegado a un nivel tan detallado de comprensión del universo en que vivimos. Creo que no hay diferencia significativa entre cómo funciona el cerebro de una lombriz y cómo computa un ordenador. También creo que la evolución implica que no puede haber diferencia cualitativa entre el cerebro de una lombriz de tierra y el de un humano. Por lo tanto, los ordenadores pueden, en principio, emular la inteligencia humana o incluso superarla. Es claramente posible que algo consiga adquirir una inteligencia superior a la de sus antepasados: evolucionamos para ser más inteligentes que nuestros simios antepasados, y Einstein era más inteligente que sus padres.
Si los ordenadores continúan siguiendo la ley de Moore, duplicando su velocidad y su capacidad de memoria cada dieciocho meses, el resultado será que los ordenadores probablemente adelantarán a los humanos en inteligencia en algún momento en los próximos cien años. Cuando una inteligencia artificial (IA) supere a los humanos en el diseño de más inteligencia artificial, de modo que pueda mejorarse recursivamente a sí misma sin ayuda humana, podemos enfrentarnos a una explosión de inteligencia que finalmente dé lugar a máquinas cuya inteligencia supere a la nuestra en más de lo que la nuestra supera a la de los caracoles. Cuando eso suceda, necesitaremos asegurarnos de que los ordenadores tengan objetivos compatibles con los nuestros. Resulta tentador descartar la noción de máquinas altamente inteligentes como mera ciencia ficción, pero esto sería un error, y potencialmente nuestro peor error.
Debido al gran potencial de la IA, es importante investigar cómo obtener sus beneficios, al tiempo que se evitan riesgos potenciales. El éxito en la creación de inteligencia artificial sería el mayor acontecimiento en la historia de la humanidad. Por desgracia, también podría ser el último, a menos que aprendamos cómo conjurar sus riesgos. Usada como una herramienta, la inteligencia artificial podría aumentar nuestra inteligencia actual y abrir avances en cada área de la ciencia y la sociedad. Sin embargo, también conllevará peligros.
Mientras que las formas primitivas de inteligencia artificial desarrolladas hasta ahora han demostrado ser muy útiles, temo las consecuencias de crear algo que pueda igualar o superar a los humanos. La preocupación estriba en que la inteligencia artificial se perfeccionaría y se rediseñaría a sí misma a un ritmo cada vez mayor. Los humanos, que estamos limitados por la lenta evolución biológica, no podríamos competir con ella y seríamos superados. Y en el futuro, la inteligencia artificial podría desarrollar una voluntad propia, en conflicto con la nuestra. Muchos creen que los humanos podremos controlar el ritmo de la tecnología durante un tiempo suficientemente largo, y que el potencial de inteligencia artificial para resolver muchos de los problemas del mundo se realizará. Aunque soy un reconocido optimista con respecto a la especie humana, yo no estoy tan seguro de ello.