Ir al contenido

LaMDA

De Wikipedia, la enciclopedia libre
La versión para imprimir ya no se admite y puede contener errores de representación. Actualiza los marcadores del navegador y utiliza en su lugar la función de impresión predeterminada del navegador.
Para otros usos de Lamda (en cualquiera de sus formas), véase Lamda.
Language Model for Dialogue Applications
Información general
Tipo de programa family of large-language models
Autor Google
Desarrollador Google Brain
Modelo de desarrollo Propietario
Lanzamiento inicial 2020
Licencia Privado
[editar datos en Wikidata]

LaMDA, que significa Language Model for Dialogue Applications (modelo de lenguaje para aplicaciones de diálogo), es una familia de modelos de lenguaje neuronal conversacional desarrollado por Google. La primera generación se anunció durante el discurso de apertura de Google I/O de 2021, mientras que la segunda generación se anunció en el evento del año siguiente. En junio de 2022, LaMDA llamó la atención cuando el ingeniero de Google, Blake Lemoine, afirmó que el chatbot se había vuelto sensible. La comunidad científica ha rechazado en gran medida las afirmaciones de Lemoine, aunque ha dado lugar a conversaciones sobre la eficacia de la prueba de Turing, que mide si una computadora puede pasar por un ser humano.

Historia

Anuncios

Google anunció el modelo de lenguaje neuronal conversacional LaMDA durante el discurso de apertura de Google I/O el 18 de mayo de 2021, impulsado por inteligencia artificial.[1]​ Construido sobre la arquitectura de red neuronal Transformer desarrollada por Google Research en 2017, LaMDA se capacitó en diálogos humanos e historias, lo que le permitió entablar conversaciones abiertas.[2]​ Google afirma que se ha asegurado de que las respuestas generadas por LaMDA sean "sensatas, interesantes y específicas para el contexto".[3]​

LaMDA 2 fue presentada por Google el 11 de mayo de 2022, en la keynote de la conferencia Google I/O de 2022. La versión actualizada del modelo utiliza ejemplos de texto de diversas fuentes para crear "conversaciones naturales" originales sobre temas para los que no ha sido enseñado.[4]​ Google también presentó AI Test Kitchen, una aplicación móvil que ejecuta LaMDA 2 y puede generar listas de recomendaciones en respuesta a un objetivo complejo.[5]​[6]​ Se suponía que en algún momento de este año "académicos, investigadores y responsables políticos selectos" podrían acceder a la aplicación por invitación, después de haber estado restringida inicialmente sólo a los empleados de Google.[7]​ La empresa empezó a permitir a los estadounidenses inscribirse para un acceso anticipado en agosto de 2022.[8]​

Reclamaciones de sensibilidad

Las afirmaciones de Lemoine de que LaMDA puede ser sensible ha instigado debates sobre si la prueba de Turing, que se muestra arriba, sigue siendo un punto de referencia preciso para determinar la inteligencia artificial general.

Blake Lemoine, ingeniero de Google, habría informado a los ejecutivos Blaise Agüera y Arcas y Jen Gennai de que LaMDA había desarrollado sensibilidad. The Washington Post informó de ello el 11 de junio de 2022. Tras las dudosas respuestas del chatbot a preguntas sobre identidad propia, principios morales, religión y las Tres Leyes de la Robótica de Isaac Asimov, Lemoine llegó a esta conclusión.[9]​[10]​ Estas afirmaciones fueron refutadas por Google, que insistió en que había pruebas contundentes que demostraban la falta de sensibilidad de LaMDA.[11]​ Lemoine se reafirmó en sus afirmaciones de que LaMDA era "una persona" según la definición de la Decimotercera Enmienda en una entrevista con Wired, equiparándola a una "inteligencia alienígena de origen terrestre".[12]​[13]​ Lemoine continuó diciendo que había sido despedido por Google después de contratar a un abogado para representar a LaMDA a petición del chatbot. Afirmando que Blake había incumplido sus políticas "para salvaguardar la información del producto", Google despidió a Lemoine el 22 de julio y rechazó las afirmaciones de Blake por "totalmente infundadas".[14]​[15]​

Método

LaMDA utiliza un modelo de lenguaje de transformador de solo decodificador.[16]​ Está pre-entrenado en un corpus de texto que incluye documentos y diálogos que consta de 1.56 billones de palabras,[17]​ y luego se entrena con datos de ajuste fino generados por respuestas anotadas manualmente para sensatez, interés y seguridad.[18]​ Las pruebas realizadas por Google indicaron que LaMDA superó las respuestas humanas en el área de interés.[19]​ El modelo de transformador LaMDA y un sistema externo de recuperación de información interactúan para mejorar la precisión de los datos proporcionados al usuario.[20]​

Se probaron tres modelos diferentes, el más grande con 137 mil millones de parámetros no integrados:[21]​

Hiperparámetros del modelo de transformador
Parámetros Capas Unidades ( modelo d) cabezas
2B 10 2560 40
8B dieciséis 4096 64
137B 64 8192 128

Véase también

Referencias

  1. ↑ Condon, Stephanie (18 de mayo de 2021). «Google I/O 2021: Google unveils new conversational language model, LaMDA». ZDNet. Archivado desde el original el 18 de mayo de 2021. Consultado el 12 de junio de 2022. 
  2. ↑ Agüera y Arcas, Blaise (9 de junio de 2022). «Artificial neural networks are making strides towards consciousness, according to Blaise Agüera y Arcas». The Economist. Archivado desde el original el 9 de junio de 2022. Consultado el 12 de junio de 2022. 
  3. ↑ Cheng, Heng-Tze (21 de enero de 2022). «LaMDA: Towards Safe, Grounded, and High-Quality Dialog Models for Everything». Google AI. Archivado desde el original el 25 de marzo de 2022. Consultado el 12 de junio de 2022. 
  4. ↑ Wiggers, Kyle (11 de mayo de 2022). «Google details its latest language model and AI Test Kitchen, a showcase for AI research». TechCrunch. Archivado desde el original el 11 de mayo de 2022. Consultado el 12 de junio de 2022. 
  5. ↑ Low, Cherlynn (11 de mayo de 2022). «Google's AI Test Kitchen lets you experiment with its natural language model». Engadget. Archivado desde el original el 11 de mayo de 2022. Consultado el 12 de junio de 2022. 
  6. ↑ Vincent, James (11 de mayo de 2022). «Google is Beta Testing Its AI Future». The Verge. Archivado desde el original el 11 de mayo de 2022. Consultado el 12 de junio de 2022. 
  7. ↑ Bhattacharya, Ananya (11 de mayo de 2022). «Google is so nervous about what its newest bot will say, it made the app invitation-only». Quartz. Archivado desde el original el 12 de mayo de 2022. Consultado el 12 de junio de 2022. 
  8. ↑ Vincent, James (25 de agosto de 2022). «Google has opened up the waitlist to talk to its experimental AI chatbot». The Verge. Archivado desde el original el 25 de agosto de 2022. Consultado el 27 de agosto de 2022. 
  9. ↑ Luscombe, Richard (12 de junio de 2022). «Google engineer put on leave after saying AI chatbot has become sentient». The Guardian. Archivado desde el original el 12 de junio de 2022. Consultado el 18 de junio de 2022. 
  10. ↑ Tiku, Nitasha (11 de junio de 2022). «The Google engineer who thinks the company's AI has come to life». The Washington Post. Archivado desde el original el 11 de junio de 2022. Consultado el 12 de junio de 2022. 
  11. ↑ Vlamis, Kelsey (12 de junio de 2022). «Read the conversations that helped convince a Google engineer an artificial intelligence chatbot had become sentient: 'I am often trying to figure out who and what I am'». Business Insider. Archivado desde el original el 12 de junio de 2022. Consultado el 12 de junio de 2022. 
  12. ↑ Levy, Steven (17 de junio de 2022). «Blake Lemoine Says Google's LaMDA AI Faces 'Bigotry'». Wired. Archivado desde el original el 18 de junio de 2022. Consultado el 18 de junio de 2022. 
  13. ↑ Nguyen, Britney (23 de junio de 2022). «Suspended Google engineer says the AI he believes to be sentient hired a lawyer». Business Insider. Archivado desde el original el 23 de junio de 2022. Consultado el 29 de junio de 2022. 
  14. ↑ Khushi, Akanksha (23 de julio de 2022). «Google fires software engineer who claimed its AI chatbot is sentient». Reuters. Archivado desde el original el 23 de julio de 2022. Consultado el 23 de julio de 2022. 
  15. ↑ Clark, Mitchell (22 de julio de 2022). «The engineer who claimed a Google AI is sentient has been fired». The Verge. Archivado desde el original el 23 de julio de 2022. Consultado el 24 de julio de 2022. 
  16. ↑ Thoppilan et al., 2022, section 3.
  17. ↑ Thoppilan et al., 2022, section 3 and appendix E.
  18. ↑ Thoppilan et al., 2022, section 5 and 6.
  19. ↑ Hager, Ryne (16 de junio de 2022). «How Google's LaMDA AI works, and why it seems so much smarter than it is». Android Police. Archivado desde el original el 16 de junio de 2022. Consultado el 19 de junio de 2022. 
  20. ↑ Thoppilan et al., 2022, section 6.2.
  21. ↑ Thoppilan et al., 2022, section 3 and appendix D.

Enlaces externos

Obtenido de «https://es.wikipedia.org/eswiki/w/index.php?title=LaMDA&oldid=163031949»