El inventor de ChatGPT quiere domar a su propio monstruo

Foto del autor

María Mallo

ChatGPT muestra de lo que es capaz la inteligencia artificial. Sin embargo, la técnica alberga grandes peligros. Incluso el inventor quiere regular su monstruo.

Estados Unidos: ChatGPT estuvo disponible para el público en general a fines de 2022 y ha estado en los titulares regulares desde entonces. AI emociona y asusta al mismo tiempo. Mientras que algunos elogian las infinitas posibilidades de esta herramienta, otros temen que ChatGPT vuelva obsoletos a los humanos o incluso cause desastres. Incluso el inventor Sam Altmann quiere regular su creación.

empresa sin fines de lucro AbrirAi
Sitio San Francisco
Sector de actividad Investigación / Inteligencia Artificial
Creación de 2015
Fundador Elon Musk y Sam Altman
Intercambio de calcetines ninguna acción de OpenAi, porque la empresa es una fundación

El inventor de ChatGPT quiere regular su propia creación

Qué pasó ? Sam Altmann, CEO y fundador de OpenAI, publicó con Greg Brockman e Ilya Sutskever una publicación de blog dedicada a la regulación de ChatGPT. Los tres recomiendan someter a la IA y su desarrollo a controles y límites estrictos para utilizar la tecnología correctamente y de manera específica. Cita la energía nuclear para ilustrar la comparación con proporciones similares.

El logotipo de ChatGPT junto a un candado

¿Cómo quiere Sam Altmann regular ChatGPT? Altmann quiere limitar la IA del chat de diferentes maneras. Por un lado, quiere implementar medidas de seguridad que se aplicarían si ChatGPT se convirtiera en una amenaza para la humanidad. Cita el ejemplo de la OIEA, la Agencia Internacional de Energía Atómica. Notifica al Consejo de Seguridad de las Naciones Unidas las amenazas a la seguridad internacional que observa.

Lo que necesitas saber sobre ChatGPT

¿ChatGPT roba trabajos? Estas profesiones podrían verse amenazadas

ChatGPT en juguete quiere apoderarse de la dominación mundial

ChatGPT desafía los sistemas escolares

Además, podría considerar acordar juntos un límite de desarrollo. Esto limitaría cuánto pueden crecer ChatGPT y otros sistemas superinteligentes cada año. Los grupos que desarrollan tales tecnologías deben cumplir con estándares extremadamente altos y actuar de manera responsable.

  • Autoridad para controlar estrictamente el desarrollo de sistemas de IA superinteligentes como ChatGPT
  • Acuerdo de desarrollador sobre un límite de desarrollo por año
  • Aportaciones democráticas de personas de todo el mundo para determinar qué puede o no puede hacer una IA

Altman propone además confiar el diseño de ChatGPT a un proceso democrático. En este marco, las personas que usan tales sistemas superinteligentes determinarían por sí mismas lo que la IA puede o no puede hacer. Todavía no está claro qué forma podría tomar tal mecanismo de control. Pero OpenAI está experimentando en esa dirección, porque según él, “sería más fácil usar las tecnologías de la información y la comunicación.es arriesgado y difícil detener por completo el desarrollo de la IA“. La tecnología tendría demasiadas ventajas para eso.