ChatGPT (todavía estoy recogiendo mis sesos desparramados)

Se incorporó
4 Marzo 2005
Mensajes
7.801
Está interesante lo que pasó con el chat de Bing hace unos dias:


 

Carlos E. Flores

Zombie
Miembro del Equipo
MOD
Se incorporó
17 Marzo 2005
Mensajes
28.329
Es que la cantidad de implicaciones es apabullante, ni escribiendo un ensayo se alcanza a abarcar lo que uno puede pensar de esto.

Pero dejo dos ideas:

-Como la ética y lo políticamente correcto limita la configuración y uso de AI más que las limitaciones técnicas.
-El impacto en seguridad, el como impactará en la creación de malware y en la búsqueda de vulnerabilidades el uso de la AI por parte de los criminales y gobiernos.


Dicen que esta ya no tiene los filtros que sí tiene chatGPT. Empieza el show.
 
Última modificación:

iRock

Ex reportero de CHW y FayerWayer
Se incorporó
13 Diciembre 2007
Mensajes
1.458
Si bien me rei de los memes del Papa francisco hechos por IA, creo que viene un periodo muy invasivo de fake news y deep fakes que pueden inclinar la balanza en la próximas elecciones importantes (parlamentarias y presidenciales). En especial en este pais, donde las redes sociales son masivas y tienen harto peso.

Bue, sin ir más lejos, acá mismo una insurrección se comió al país por varios meses a punta de puras fake news (y usuarios con la inteligencia de un bot), so...

Recorte tu post solo para enfocarme en este párrafo



Las habilidades cognitivas son una pirámide, no puedes simplemente "descartar" las de más abajo para enfocarte en las de más arriba sin tenerlas desarrolladas (es como tener una casa sin cimientos).

a-little-bit-of-6.jpg


Las IA son entrenadas como un sofisticado predictor en base a promedios estadísticos, por ende llegan solo hasta el nivel 3 (igual que la prueba PSU/PAES), y ejecutan tareas de nivel superior siempre y cuando alguien les da la instrucción.

Hay que tener mucho ojo con esto para las futuras generaciones, que "descansando" en las IAs no van a desarrollar unas bases sólidas para el pensamiento de orden superior, y por ende su capacidad de efectivamente "crear" algo nuevo va a estar mucho más reducida.

Laboralmente hablando vamos a tener que incorporar las recomendaciones de las IAs con un grano de sal, considerando todos los bias de los set de datos con los que fueron entrenados. Sobre todo las de uso más general como chatGPT, ya que el "internet" en general está lleno de sesgos/bias/trolls/basura/negacionismo/fake news y contenido viral sobre-representado.

Imaginate estar en un congreso de medicina y preguntarle a chatGPT si las vacunas causan autismo y que te diga (basado en lo que leyó en grupos de mamás de facebook) que si hay evidencia al respecto, y cite a una malla de fake-papers creada para estadisticamente alterar el resultado de esa respuesta (algo asi como el SEO de los motores de busqueda, pero para IAs).

Asumo que ese modelo viene de la psicología y por ende habla de la inteligencia humana. Dicho eso, no me parece, a priori, que sirva para explicar el funcionamiento de las llamadas "IAs" actuales. Por de pronto, si tomamos tu afirmación de que ChatGPT "llega solo hasta el nivel 3" (lo que incluiría el 2), eso ya es cuestionable, puesto que GPT no "comprende" (nivel 2) nada, precisamente por la forma de funcionamiento que tú mismo señalas.

Incluso podría decirse que GPT ya hace (aún con muchos yerros, claro está) prácticamente todo lo que aparece en la pirámide, pero justamente sin llegar a comprender nada. Por lo mismo insisto en que ese modelo está pensado para la inteligencia humana; no sirve para explicar el funcionamiento de las IAs y me parece que NO es analogable.

Con respecto a lo que decía en mi post anterior sobre "descartar" las habilidades cognitivas de menor nivel (reconozco que lo expliqué pobremente a punta de comillas), lo que quise decir simplemente es que el mercado prescindirá de los humanos a la hora de tener que recurrir a aquellas, es decir, las empresas no tendrán necesidad de emplear gente para que memoricen cosas o realicen tareas de relativamente bajo nivel cognitivo (por ejemplo leer un texto y editarlo), las cuales serán asumidas por IAs. Por el contrario, las empresas emplearán gente, de forma progresiva, solo para que realicen las tareas de la parte superior de la pirámide, las cuales hoy por hoy aún no pueden dejarse de forma fiable en manos de una herramienta como ChatGPT.

Esto en caso alguno significa que se pueda, como humano, desarrollar las habilidades cognitivas de nivel superior descartando las inferiores, que es lo que aparentemente se entendió.

A mí todo esto me da algo de miedo.

Se elimina de plataformas canción de Drake y The Weeknd: fue hecha con una Inteligencia Artificial



Enviado desde mi iPhone utilizando Tapatalk Pro

Me recordaste la otra polémica reciente salida del mundo del arte, esta vez desde la vereda de las artes visuales. Involucra a Midjourney y nada menos que los prestigiosos Sony World "Photography" (guiño guiño) Awards:

 

holophonor

Miembro Regular
Se incorporó
3 Julio 2013
Mensajes
38
Me recordaste la otra polémica reciente salida del mundo del arte, esta vez desde la vereda de las artes visuales. Involucra a Midjourney y nada menos que los prestigiosos Sony World "Photography" (guiño guiño) Awards:


Esto está brutal. Si los "expertos en fotografía" no la pudieron distinguir, yo claramente menos.
 
Se incorporó
4 Marzo 2005
Mensajes
7.801
Ya había escuchado que hay algunas personas que están pidiendo "frenar" el desarrollo de la IA hasta estar más seguros de si estamos capacitados para lidiar con las consecuencias. No les prestaba mucha atención, pero esta noticia me dejó preocupado:

 

Miguelwill

I am online
Miembro del Equipo
MOD
Se incorporó
23 Febrero 2004
Mensajes
12.357
Ya había escuchado que hay algunas personas que están pidiendo "frenar" el desarrollo de la IA hasta estar más seguros de si estamos capacitados para lidiar con las consecuencias. No les prestaba mucha atención, pero esta noticia me dejó preocupado:

uno era Elon Musk...... y al mes salio con una IA propia, al final era "esperen que aun no me subo al carro de las IAs" :risas
 

iRock

Ex reportero de CHW y FayerWayer
Se incorporó
13 Diciembre 2007
Mensajes
1.458
Esto está brutal. Si los "expertos en fotografía" no la pudieron distinguir, yo claramente menos.

Igual la negligencia ahí es de la organización. De hecho, hay un cahuin más o menos, ya que no se sabe si Sony admitió la imagen a sabiendas de que se había hecho con IA porque la categoría precisamente era "creativo" y se permitía la utilización de otros medios para llegar al resultado, o si Sony derechamente fue tan penca que no hizo el debido examen y solo se enteró cuando le llegaron todas las denuncias.

Esto último sería especialmente grave porque la imagen A TODAS LUCES tiene problemas. De hecho, además de los ojos de la mujer que está detrás o la posición de los brazos, aparecen otras pistas muy típicas que evidencian que la imagen fue generada por IA, a saber la deformidad de las manos y dedos, que como se sabe es algo que a IAs como Midjourney todavía les cuesta.

Ya había escuchado que hay algunas personas que están pidiendo "frenar" el desarrollo de la IA hasta estar más seguros de si estamos capacitados para lidiar con las consecuencias. No les prestaba mucha atención, pero esta noticia me dejó preocupado:


Venía a postear lo mismo. Da para pensar, ah.

A todo esto, no había cachado que nada menos que Noam Chomsky también había metido la cuchara con respecto al tema de los modelos generales de lenguaje hace un par de meses. Recomiendo leer la columna para despotricar con base:


Ojo:

In short, ChatGPT and its brethren are constitutionally unable to balance creativity with constraint. They either overgenerate (producing both truths and falsehoods, endorsing ethical and unethical decisions alike) or undergenerate (exhibiting noncommitment to any decisions and indifference to consequences). Given the amorality, faux science and linguistic incompetence of these systems, we can only laugh or cry at their popularity.

:zippyte

(Alguien que lo haga dentrarse ya al caballero, por dios. El marxismo lo tiene demasiado gagá.)
 

Carlos E. Flores

Zombie
Miembro del Equipo
MOD
Se incorporó
17 Marzo 2005
Mensajes
28.329
En este momento estoy entretenido haciendo que el ChatGPT corrija un texto que fue generado con OCR desde un libro escaneao a PDF. Como eran muchos los errores me sale más fácil pasárle texto de a poco y que lo vaya corrigiendo. Una lata ya que en la versión gratis no le puedo apsar el texto completo, pero está quedando bien. Incluso hasta corrige el mal uso de algunas palabras del autor del libro XD.

6PTKPVH.mp4
 

Miguelwill

I am online
Miembro del Equipo
MOD
Se incorporó
23 Febrero 2004
Mensajes
12.357
las opciones de traduccion igualmente son utiles, quizas mejor que google translator (aunque DeepL es de los mejorcitos)

le copie/pegue la letra de una cancion en japones y me la tradujo bastante bien (solo dire que era la letra de Future World de Every Little Thing)
 

Miguelwill

I am online
Miembro del Equipo
MOD
Se incorporó
23 Febrero 2004
Mensajes
12.357
Se incorporó
4 Marzo 2005
Mensajes
7.801

7800 puestos que se reemplazaran :naster

Para ponerle contexto, según wikipedia IBM tiene 377757 empleados, o sea, los 7800 equivalen al 2,06%. Ese número es potencial para "los próximos años", no es algo inmediato. Yo la verdad no lo veo tanto. A comienzos de este año Microsoft hizo un ajuste de como el 5% de los empleados (cerca de 10 mil), y fue bastante más brusco.
Y para qué hablar del sacudón de Twitter.
 
Subir