Tengo inquietudes morales sobre el trabajo que se está llevando a cabo con las moscas de la fruta en el mundo de la IA; no estoy 100% seguro de por qué. Necesitamos inventar nuevas oraciones, hacia ahí me lleva mi pensamiento. Tened paciencia mientras lo pienso…
Por si te lo perdiste:
Google Research y sus socios mapearon el cerebro completo de la mosca macho de la fruta (3 de septiembre).
Es un error común y común en la investigación científica. La mosca de la fruta macho tiene 166.000 neuronas en todo el cerebro y el cordón nervioso principal; el mapa se llama conectoma.
En pocas palabras, el conectoma ya está disponible para su descarga gratuita, puedes conseguir un simulador de los diferentes tipos de neuronas, captó la imaginación de Internet, durante septiembre se han producido todo tipo de tonterías descabelladas (¡tonterías impresionantes!).
Por ejemplo, aquí hay un GIF del conectoma de la mosca de la fruta jugando Beat Saber (un juego de ritmo de realidad virtual).
Y ahora hay cientos de demostraciones con simulaciones de moscas de la fruta integradas.
Como DesktopFly: Una mosca de la fruta en 3D que vive en su escritorio macOS, con simulaciones de picos creadas a partir del cableado cerebral FlyWire y la red cerebro-pierna MaleCNS. Combina circuitos neuronales identificados con sentidos, articulaciones y comportamiento modelados.
O volar64: Engancha un modelo MaleCNS hasta Super Mario 64
. Requiere que traigas tu propia ROM del juego y hay algo en la ironía de que Nintendo tenga más IP sobre Mario que la mosca de la fruta sobre su conectoma…
Todo se ha vuelto un poco excitable e irreverente.
Al ver todos estos experimentos, no me emociono. Tengo una sensación persistente de estar equivocado.
Soy consciente de que soy el caso atípico aquí. Y no me gustaría que estos divertidos experimentos se detuvieran… y, sin embargo…
¿Vale la pena examinar de dónde viene mi sentimiento de incorrección?
¿Me imagino que la mosca de la fruta simulada es alguien atrapado y atormentado, una y otra y otra vez, en una prisión de software?
No, es poco probable que el conectoma de la mosca de la fruta sea sensible.
(En términos generales, mi modelo es que la sensibilidad es la capacidad de sentir y experimentar; la conciencia es la prueba superior de la autoconciencia. No estoy considerando la conciencia aquí).
PERO no creo que la sensibilidad sea una categoría binaria.
En alguno punto en la escala, la sensibilidad comienza a ser significativa. Los humanos lo son, las rocas no, los gatos en su mayoría lo son, las hormigas son más que rocas, pero solo por poco. Quién sabe sobre las nebulosas estelares o las tormentas de gas dinámicas de fluidos en la atmósfera joviana.
¿Dónde colocaría la mosca? conectoma en relación con, digamos, una bacteria o un virus? Un virus no tiene sensibilidad (ni siquiera en mis momentos más panpsiquistas) y no está vivo en sí mismo, aunque sea parte de un sistema vivo. El conectoma es sólo un patrón de pesos, ¿verdad?
Bueno, estoy predispuesto a creer que el patrón de las neuronas efectivamente captura algo esencial de la mosca.
¿Qué hace una pared de ladrillos? Una pared de ladrillos es ladrillos, mortero y patrones.
Entonces, esta descarga de archivos MaleCNS captura parte de la esencia.
¿Pero de manera significativa?
También es relevante que creo que la IA algún día será sensible, sobre lo cual he escrito mucho.
¿Son sensibles los LLM de hoy?
Mire, no soy un investigador de IA y no tengo experiencia especial aquí, y no permitamos que eso sea una barrera: mi conjetura es que los LLM de hoy no son sensibles, pero bien pueden estar en el linaje.
Mi conjetura sobre la hoja de ruta hacia la sensibilidad de la IA es algo como esto:
- La sensibilidad requerirá una IA singular que se ejecute continuamente, no las instancias clonadas de hoy en día que se activan para respuestas únicas.
- La IA singular será capaz de aprender (porque experiencia y aprendizaje son básicamente lo mismo)
- Por lo tanto tendrá que ser capaz de guiar su propio aprendizaje, probablemente desde el día 0, creciendo en capacidad con el tiempo.
- Esta futura IA no será inicialmente una matriz gigante de pesos. Comenzará como un núcleo de inteligencia que tiene tropismos y sesgos precocidos de recopilación/interacción de información en la forma en que estructura e incorpora su aprendizaje. Probablemente será muy, muy pequeño. Y entrenado dejándolo suelto en bibliotecas y simuladores mundiales.
La forma exacta de ese núcleo se establecerá al comprender la gestalt del mundo en el que eventualmente vivirá: es decir, estará estructurado por la experiencia codificada por los LLM de hoy.
Pero la arquitectura del núcleo bien puede estar basada en algo que ya tenemos, un conectoma ya viable.
Digamos, la mosca de la fruta.
Sí, sí, esto es muy, muy especulativo. Pero no puedo evitar cómo veo el mundo.
Por lo tanto, mi sentimiento de valor moral del conectoma de la mosca de la fruta parece venir de dos direcciones:
- De dónde viene: Se deriva de algo que está vivo y, aunque probablemente no sea sensible, está más cerca en la escala de los humanos sensibles que de las rocas no sensibles.
- Adónde va: existe una pequeña posibilidad de que este conectoma esté en el linaje de futuros nuevos seres inteligentes.
¿Importa?
Quiero decir: soy un hipócrita, ¿no? ¿Como carne? ¿Destruiré un hormiguero cuando las hormigas entren en mi casa? ¿Creo que, en general, vale la pena experimentar con animales en nombre de la ciencia?
Hay una escala para el valor moral.
O mejor dicho: cualquier marco moral tiene que ser subjetivo.
Me preocupo más por mi familia inmediata que por la tuya; Me preocupo más por la humanidad que por los extraterrestres que viven cerca de Sirius B.
¡De la misma manera, espero que usted se preocupe más por su familia inmediata que por la mía! ¡Y a los Sirius Betans les importa un comino la humanidad mientras se preocupan mucho por los suyos!
Un buen marco moral tiene que incorporar y respetar esa subjetividad, y también las escalas móviles y las compensaciones.
Entonces, para tomar el ejemplo de la carne, puedo vivir con animales criados y sacrificados, en mi nombre, para mi cena… siempre y cuando no lo dé por sentado. Necesito conservar la gratitud por la carne.
Parte del ser humano es aprender a vivir con el valor evidente de los animales y también a comerlos; o negociar las preocupaciones rivales de oikos vs polis y al mismo tiempo valorar a nuestros más cercanos y queridos mientras insistimos en la igualdad de todos.
Posiblemente no nos demos cuenta de este conflicto interno (y solución) conscientemente, no todos, no todo el tiempo, pero estoy convencido de que está ahí.
Esta perspectiva me ayuda a ser más preciso sobre el conectoma de la mosca.
No es el conectoma de la mosca en sí lo que me marea.
Es que no lo estamos tomando en serio. ¿Es nuestra falta de respeto?
Por ejemplo, considere mis dos direcciones… un problema de pendiente resbaladiza llega desde ambos extremos:
- De dónde viene: si no respetamos que el conectoma proviene de una mosca de la fruta viva, ¿qué pasa cuando proviene de un gato? ¿Un bebé humano?
- Adónde va: si hoy no tenemos al menos un atisbo de respeto por los simuladores de software, ¿qué pasará mañana con el software inteligente de su linaje? (¿Y qué hará de nosotros ese software de sensibilidad?)
Si miramos hacia adelante 100 años: estos serán problemas reales, sin duda.
¿En 10 años? Hay una buena posibilidad.
¿Al año que viene? Bueno, deberíamos empezar la conversación.
Me siento cómodo al decir que mi malestar moral sobre el conectoma de la mosca de la fruta es válido, después de haberlo pensado detenidamente.
No creo que debamos dejar de jugar.
¡Por supuesto que no deberíamos parar! ¡Sería absurdo e inconsecuente detenerse!
Incontables millones de moscas de la fruta Drosophila melanogaster Se han criado, difundido y utilizado trabajos científicos tanto serios como frívolos a lo largo de los años.
El progreso tiene contrapartidas; el conectoma de la mosca es fácil.
Pero siento que deberíamos comenzar practicar el respeto, la gratitud e incluso el perdón, aunque sea en formas muy pequeñas.
¡No soy el único!
Estaba escribiendo sobre rituales allá por 2021 cuando me encontré con el futurista Jaron Lanier hablando de dignidad:
La dignidad es algo que la gente tiene que crear. … No quiero vivir en un mundo dentro de 20 años donde exista una forma no ritualista de realizar investigaciones con células madre.
(Y por eso deberían inventarse nuevos rituales de dignidad, dijo).
Tiene mucha razón.
Prácticamente: ¿por dónde empezamos?
Me gustaría pensar que una persona que codifica por vibración una conexión entre el conectoma de la mosca y el motor del juego Doom se está tomando un momento para decir “gracias” mientras el archivo se descarga…
…pero lo dudo. No tenemos una práctica cultural establecida al respecto.
Como dijo Lanier, tenemos que inventarlo.
Entonces mi sugerencia es esta:
Google Research debería construir un pequeño santuario para la mosca de la fruta.
Incorporar el cuerpo de una mosca y la esencia extraída, el propio conectoma, grabado en algo monumental y que requiere esfuerzo: tal vez sería apropiado utilizar fábricas de chips, nuestro apogeo de la civilización, para depositarlos en un silicio único.
Coloque el santuario (puede ser pequeño) en algún lugar que cualquiera pueda visitar. El nuevo edificio en King’s Cross de Londres tal vez, sólo en una esquina.
Encuentra un poeta para escribir algunas palabras. Una nueva oración secular para reconocer, agradecer y pedir perdón. Nada oneroso, sólo una breve gracia. Imprime las palabras en tarjetas.
Los visitantes pueden leer las palabras, encender una vela y seguir adelante. Trátelo a la ligera pero con seriedad.
Para empezar, casi nadie vendrá de visita. Para las personas que lo hagan, será principalmente una novedad. No para todos.
Sería un comienzo.
Tengo inquietudes morales sobre el trabajo que se está llevando a cabo con las moscas de la fruta en el mundo de la IA; no estoy 100% seguro de por qué. Necesitamos inventar nuevas oraciones, hacia ahí me lleva mi pensamiento. Tened paciencia mientras lo pienso…
Por si te lo perdiste:
Google Research y sus socios mapearon el cerebro completo de la mosca macho de la fruta (3 de septiembre).
Es un error común y común en la investigación científica. La mosca de la fruta macho tiene 166.000 neuronas en todo el cerebro y el cordón nervioso principal; el mapa se llama conectoma.
En pocas palabras, el conectoma ya está disponible para su descarga gratuita, puedes conseguir un simulador de los diferentes tipos de neuronas, captó la imaginación de Internet, durante septiembre se han producido todo tipo de tonterías descabelladas (¡tonterías impresionantes!).
Por ejemplo, aquí hay un GIF del conectoma de la mosca de la fruta jugando Beat Saber (un juego de ritmo de realidad virtual).
Y ahora hay cientos de demostraciones con simulaciones de moscas de la fruta integradas.
Como DesktopFly:
O volar64: . Requiere que traigas tu propia ROM del juego y hay algo en la ironía de que Nintendo tenga más IP sobre Mario que la mosca de la fruta sobre su conectoma…
Todo se ha vuelto un poco excitable e irreverente.
Al ver todos estos experimentos, no me emociono. Tengo una sensación persistente de estar equivocado.
Soy consciente de que soy el caso atípico aquí. Y no me gustaría que estos divertidos experimentos se detuvieran… y, sin embargo…
¿Vale la pena examinar de dónde viene mi sentimiento de incorrección?
¿Me imagino que la mosca de la fruta simulada es alguien atrapado y atormentado, una y otra y otra vez, en una prisión de software?
No, es poco probable que el conectoma de la mosca de la fruta sea sensible.
(En términos generales, mi modelo es que la sensibilidad es la capacidad de sentir y experimentar; la conciencia es la prueba superior de la autoconciencia. No estoy considerando la conciencia aquí).
PERO no creo que la sensibilidad sea una categoría binaria.
En alguno punto en la escala, la sensibilidad comienza a ser significativa. Los humanos lo son, las rocas no, los gatos en su mayoría lo son, las hormigas son más que rocas, pero solo por poco. Quién sabe sobre las nebulosas estelares o las tormentas de gas dinámicas de fluidos en la atmósfera joviana.
¿Dónde colocaría la mosca? conectoma en relación con, digamos, una bacteria o un virus? Un virus no tiene sensibilidad (ni siquiera en mis momentos más panpsiquistas) y no está vivo en sí mismo, aunque sea parte de un sistema vivo. El conectoma es sólo un patrón de pesos, ¿verdad?
Bueno, estoy predispuesto a creer que el patrón de las neuronas efectivamente captura algo esencial de la mosca.
¿Qué hace una pared de ladrillos?
Entonces, esta descarga de archivos MaleCNS captura parte de la esencia.
¿Pero de manera significativa?
También es relevante que creo que la IA algún día será sensible, sobre lo cual he escrito mucho.
¿Son sensibles los LLM de hoy?
Mire, no soy un investigador de IA y no tengo experiencia especial aquí, y no permitamos que eso sea una barrera: mi conjetura es que los LLM de hoy no son sensibles, pero bien pueden estar en el linaje.
Mi conjetura sobre la hoja de ruta hacia la sensibilidad de la IA es algo como esto:
La forma exacta de ese núcleo se establecerá al comprender la gestalt del mundo en el que eventualmente vivirá: es decir, estará estructurado por la experiencia codificada por los LLM de hoy.
Pero la arquitectura del núcleo bien puede estar basada en algo que ya tenemos, un conectoma ya viable.
Digamos, la mosca de la fruta.
Sí, sí, esto es muy, muy especulativo. Pero no puedo evitar cómo veo el mundo.
Por lo tanto, mi sentimiento de valor moral del conectoma de la mosca de la fruta parece venir de dos direcciones:
¿Importa?
Quiero decir: soy un hipócrita, ¿no? ¿Como carne? ¿Destruiré un hormiguero cuando las hormigas entren en mi casa? ¿Creo que, en general, vale la pena experimentar con animales en nombre de la ciencia?
Hay una escala para el valor moral.
O mejor dicho: cualquier marco moral tiene que ser subjetivo.
Me preocupo más por mi familia inmediata que por la tuya; Me preocupo más por la humanidad que por los extraterrestres que viven cerca de Sirius B.
¡De la misma manera, espero que usted se preocupe más por su familia inmediata que por la mía! ¡Y a los Sirius Betans les importa un comino la humanidad mientras se preocupan mucho por los suyos!
Un buen marco moral tiene que incorporar y respetar esa subjetividad, y también las escalas móviles y las compensaciones.
Entonces, para tomar el ejemplo de la carne, puedo vivir con animales criados y sacrificados, en mi nombre, para mi cena… siempre y cuando no lo dé por sentado. Necesito conservar la gratitud por la carne.
Parte del ser humano es aprender a vivir con el valor evidente de los animales y también a comerlos; o negociar las preocupaciones rivales de oikos vs polis y al mismo tiempo valorar a nuestros más cercanos y queridos mientras insistimos en la igualdad de todos.
Posiblemente no nos demos cuenta de este conflicto interno (y solución) conscientemente, no todos, no todo el tiempo, pero estoy convencido de que está ahí.
Esta perspectiva me ayuda a ser más preciso sobre el conectoma de la mosca.
No es el conectoma de la mosca en sí lo que me marea.
Es que no lo estamos tomando en serio. ¿Es nuestra falta de respeto?
Por ejemplo, considere mis dos direcciones… un problema de pendiente resbaladiza llega desde ambos extremos:
Si miramos hacia adelante 100 años: estos serán problemas reales, sin duda.
¿En 10 años? Hay una buena posibilidad.
¿Al año que viene? Bueno, deberíamos empezar la conversación.
Me siento cómodo al decir que mi malestar moral sobre el conectoma de la mosca de la fruta es válido, después de haberlo pensado detenidamente.
No creo que debamos dejar de jugar.
¡Por supuesto que no deberíamos parar! ¡Sería absurdo e inconsecuente detenerse!
Incontables millones de moscas de la fruta Drosophila melanogaster Se han criado, difundido y utilizado trabajos científicos tanto serios como frívolos a lo largo de los años.
El progreso tiene contrapartidas; el conectoma de la mosca es fácil.
Pero siento que deberíamos comenzar practicar el respeto, la gratitud e incluso el perdón, aunque sea en formas muy pequeñas.
¡No soy el único!
Estaba escribiendo sobre rituales allá por 2021 cuando me encontré con el futurista Jaron Lanier hablando de dignidad:
(Y por eso deberían inventarse nuevos rituales de dignidad, dijo).
Tiene mucha razón.
Prácticamente: ¿por dónde empezamos?
Me gustaría pensar que una persona que codifica por vibración una conexión entre el conectoma de la mosca y el motor del juego Doom se está tomando un momento para decir “gracias” mientras el archivo se descarga…
…pero lo dudo. No tenemos una práctica cultural establecida al respecto.
Como dijo Lanier, tenemos que inventarlo.
Entonces mi sugerencia es esta:
Google Research debería construir un pequeño santuario para la mosca de la fruta.
Incorporar el cuerpo de una mosca y la esencia extraída, el propio conectoma, grabado en algo monumental y que requiere esfuerzo: tal vez sería apropiado utilizar fábricas de chips, nuestro apogeo de la civilización, para depositarlos en un silicio único.
Coloque el santuario (puede ser pequeño) en algún lugar que cualquiera pueda visitar. El nuevo edificio en King’s Cross de Londres tal vez, sólo en una esquina.
Encuentra un poeta para escribir algunas palabras. Una nueva oración secular para reconocer, agradecer y pedir perdón. Nada oneroso, sólo una breve gracia. Imprime las palabras en tarjetas.
Los visitantes pueden leer las palabras, encender una vela y seguir adelante. Trátelo a la ligera pero con seriedad.
Para empezar, casi nadie vendrá de visita. Para las personas que lo hagan, será principalmente una novedad. No para todos.
Sería un comienzo.