Home Tecnología ¿Es ChatGPT un ‘virus que ha sido liberado’? • TechCrunch

¿Es ChatGPT un ‘virus que ha sido liberado’? • TechCrunch

by internauta
0 comment


Hace más de tres años, este editor Se sentó con Sam Altman para un pequeño evento en San Francisco poco después de dejar su cargo como presidente de Y Combinator para convertirse en director ejecutivo de la compañía de inteligencia artificial que cofundó en 2015 con Elon Musk y otros, IA abierta.

En ese momento, Altman describió el potencial de OpenAI en un lenguaje que sonaba extraño para algunos. Altman dijo, por ejemplo, que la oportunidad con la inteligencia artificial general (inteligencia de máquina que puede resolver problemas tan bien como un ser humano) es tan grande que si OpenAI logra descifrarla, el equipo podría “tal vez capturar el cono de luz de todo valor futuro”. En el universo.” Dijo que la compañía “va a tener que no publicar investigaciones” porque es muy poderosa. Cuando se le preguntó si OpenAI era culpable de infundir miedo, Elon Musk, cofundador del equipo, ha pedido repetidamente a todas las organizaciones que desarrollan IA que sean regulado — Altman habló sobre los peligros de no pensando en las “consecuencias sociales” cuando “estás construyendo algo en una curva exponencial”.

La audiencia se rió en varios puntos de la conversación, sin saber qué tan en serio tomar a Altman. Sin embargo, ahora nadie se ríe. Si bien las máquinas aún no son tan inteligentes como las personas, la tecnología que OpenAI ha lanzado desde entonces está sorprendiendo a muchos (incluyendo almizcle), con algunos críticos temerosos de que pueda ser nuestra perdición, especialmente con tecnología más sofisticada supuestamente viene pronto.

De hecho, aunque los grandes usuarios insisten en que es no tan inteligentela ChatGPT modelo que OpenAI puso a disposición del público en general la semana pasada es tan capaz de responder qPreguntas como una persona que los profesionales de una variedad de industrias están tratando de procesar las implicaciones. Los educadores, por ejemplo, se preguntan cómo podrán distinguir la escritura original de los ensayos generados algorítmicamente que están obligados a recibir, y eso puede evadir software antiplagio.

Paul Kedrosky no es un educador per se. Es un economista, capitalista de riesgo y miembro del MIT que se llama a sí mismo un “normal frustrado con una inclinación por pensar en los riesgos y las consecuencias no deseadas en los sistemas complejos”. Pero él está entre aquellos que de repente están preocupados por nuestro futuro colectivo, tuiteando el dia de ayer: “[S]lástima de OpenAI por lanzar esta bomba nuclear de bolsillo sin restricciones en una sociedad que no estaba preparada”. Escribió Kedrosky: “Obviamente siento que ChatGPT (y los de su tipo) deberían retirarse de inmediato. Y, si alguna vez se vuelve a introducir, solo con estrictas restricciones”.

Hablamos con él ayer sobre algunas de sus preocupaciones y por qué cree que OpenAI está impulsando lo que él cree que es el “cambio más disruptivo que la economía de EE. UU. ha visto en 100 años”, y no en el buen sentido.

Nuestro chat ha sido editado por su extensión y claridad.

TC: ChatGPT salió el miércoles pasado. ¿Qué provocó su reacción en Twitter?

PK: He jugado con estas interfaces de usuario conversacionales y servicios de inteligencia artificial en el pasado y esto obviamente es un gran salto más allá. Y lo que me preocupó aquí en particular es la brutalidad casual de la misma, con consecuencias masivas para una serie de actividades diferentes. No son solo los más obvios, como la escritura de ensayos de la escuela secundaria, sino en casi cualquier dominio donde hay una gramática: [meaning] una forma organizada de expresarse. Eso podría ser ingeniería de software, ensayos de secundaria, documentos legales. Todos ellos son fácilmente comidos por esta bestia voraz y escupidos de nuevo sin compensación a lo que sea que se haya usado para entrenarlo.

Escuché de un colega de UCLA que me dijo que no tienen idea de qué hacer con los ensayos al final del período actual, donde obtienen cientos por curso y miles por departamento, porque ya no tienen idea de lo que es falso y lo que es falso. no. Entonces, hacer esto tan casualmente, como alguien me dijo hoy, es una reminiscencia del llamado [ethical] hacker de sombrero blanco que encuentra un error en un producto ampliamente utilizado, luego informa al desarrollador antes de que el público en general lo sepa para que el desarrollador pueda parchear su producto y no tengamos una devastación masiva y las redes eléctricas se caigan. Esto es lo contrario, donde un virus ha sido liberado en la naturaleza sin preocuparse por las consecuencias.

Se siente como si pudiera comerse el mundo.

Algunos podrían decir: ‘Bueno, ¿se sintió de la misma manera cuando llegó la automatización a las plantas automotrices y los trabajadores automotrices se quedaron sin trabajo? Porque este es un tipo de fenómeno más amplio. Pero esto es muy diferente. Estas tecnologías de aprendizaje específicas son autocatalizadoras; están aprendiendo de las solicitudes. Entonces, los robots en una planta de fabricación, aunque disruptivos y crearon consecuencias económicas increíbles para las personas que trabajan allí, no se dieron la vuelta y comenzaron a absorber todo lo que pasaba dentro de la fábrica, moviéndose sector por sector, mientras que eso no es exactamente lo que podemos esperar. pero lo que debe esperar.

Musk dejó OpenAI parcialmente desacuerdos sobre el desarrollo de la empresa, dijo en 2019, y lleva mucho tiempo hablando de la IA como una amenaza existencial. Pero la gente se quejaba de que él no sabía de lo que estaba hablando. Ahora nos enfrentamos a esta poderosa tecnología y no está claro quién interviene para abordarla.

Creo que va a comenzar en un montón de lugares a la vez, la mayoría de los cuales se verán muy torpes, y la gente [then] burlarse porque eso es lo que hacen los tecnólogos. Pero lástima, porque nos hemos metido en esto al crear algo con tanta consecuencia. Entonces, de la misma manera que la FTC exigió que las personas que publicaran blogs hace años [make clear they] tener enlaces de afiliados y ganar dinero con ellos, creo que a un nivel trivial, las personas se verán obligadas a revelar que ‘No escribimos nada de esto. Todo esto es generado por una máquina.

También creo que vamos a ver nueva energía para el demanda en curso contra Microsoft y OpenAI por infracción de derechos de autor en el contexto de nuestros algoritmos de aprendizaje automático en formación. Creo que va a haber un problema más amplio de DMCA aquí con respecto a este servicio.

Y creo que existe el potencial para una [massive] demanda y acuerdo eventualmente con respecto a las consecuencias de los servicios, que, como saben, probablemente tomará demasiado tiempo y no ayudará a suficientes personas, pero no veo cómo no terminamos en [this place] con respecto a estas tecnologías.

¿Cuál es el pensamiento en el MIT?

Andy McAfee y su grupo allí son más optimistas y tienen una visión más ortodoxa de que cada vez que vemos una interrupción, se crean otras oportunidades, las personas son móviles, se mueven de un lugar a otro y de una ocupación a otra, y no deberíamos ser así. recalcitrantes que pensamos que esta evolución particular de la tecnología es aquella alrededor de la cual no podemos mutar y migrar. Y creo que eso es en general cierto.

Pero la lección de los últimos cinco años en particular ha sido que estos cambios pueden llevar mucho tiempo. El libre comercio, por ejemplo, es una de esas experiencias increíblemente perturbadoras para toda la economía, y todos nos dijimos a nosotros mismos como economistas que observamos esto que la economía se adaptará y la gente en general se beneficiará de precios más bajos. Lo que nadie anticipó fue que alguien organizaría a toda la gente enojada y elegiría a Donald Trump. Así que existe la idea de que podemos anticipar y predecir cuáles serán las consecuencias, pero [we can’t].

Usted habló sobre la redacción de ensayos para la escuela secundaria y la universidad. Uno de nuestros hijos ya ha preguntado, ¡teóricamente! — si sería plagio usar ChatGPT para escribir un artículo.

El propósito de escribir un ensayo es demostrar que puedes pensar, por lo que esto hace un cortocircuito en el proceso y anula el propósito. Nuevamente, en términos de consecuencias y externalidades, si no podemos dejar que las personas tengan deberes porque ya no sabemos si están copiando o no, eso significa que todo tiene que suceder en el salón de clases y debe ser supervisado. No puede haber nada que nos llevemos a casa. Se deben hacer más cosas por vía oral, y ¿qué significa eso? Significa que la escuela se volvió mucho más cara, mucho más artesanal, mucho más pequeña y en el momento exacto en que estamos tratando de hacer lo contrario. Las consecuencias para la educación superior son devastadoras en cuanto a la prestación real de un servicio.

¿Qué opina de la idea de la renta básica universal, o permitir que todos participen en la ganancias de la IA?

Soy un defensor mucho menos fuerte de lo que era antes de COVID. La razón es que COVID, en cierto sentido, fue un experimento con un ingreso básico universal. Le pagamos a la gente para que se quedara en casa y se les ocurrió QAnon. Así que estoy muy nervioso por lo que sucede cuando las personas no tienen que subirse a un auto, conducir a algún lado, hacer un trabajo que odian y volver a casa otra vez, porque el diablo encuentra trabajo para las manos ociosas, y habrá mucho de manos ociosas y mucha diablura.

You may also like

Exploramos la red para colectar la información más importante que pueda ser compartida para los intereses de los internautas.

El Blog del Internauta 2022

-
00:00
00:00
Update Required Flash plugin
-
00:00
00:00