GPT 3 y SEO: Por qué la IA transformará tu contenido para siempre

Todos hemos escuchado los rumores a estas alturas.

OpenAI ha lanzado una nueva versión del Transformador Generativo Preentrenado versión 3 (en resumen, GPT-3 o GPT 3) con acceso beta a su API. GPT 3, al igual que su predecesor GPT 2, es una gran red neuronal profunda que puede generar automáticamente textos tan realistas como para engañar al ser humano promedio. Se trata de una inteligencia artificial avanzada que aprende en la web a imitar la escritura humana.

Aquí tienes un fragmento de un artículo generado por GPT 3:

En los años posteriores a la Segunda Guerra Mundial, la economía del mundo occidental, y especialmente las de Europa, empezaron a recuperarse y a mostrar crecimiento. La reconstrucción de fábricas, carreteras y puentes, ciudades y viviendas, puertos y aeropuertos había comenzado. La economía europea se había convertido en un motor de crecimiento para todo el mundo occidental. Los países, las empresas y las personas prosperaron, y en Europa se inició un gran periodo de crecimiento económico, con subidas de salarios y una mejora del nivel de vida. La combinación de reconstrucción y nuevas inversiones hizo de Europa un gran lugar para hacer negocios. Para las empresas, Europa era un mercado inmenso, con sus miembros más o menos unificados en cuanto a regulación del mercado, infraestructuras, política de inversión y cultura. Las empresas crearon fábricas, invirtieron y encontraron nuevos mercados, y estas inversiones se financiaron en gran parte con deuda.

Sin duda, estos resultados han sorprendido al público y generado mucha expectación. El texto generado se lee bien y es gramaticalmente correcto, pero GPT 3 no es solo un potente generador de textos. Esta tecnología marca un antes y un después en nuestra forma de concebir la creación de contenidos, el marketing y el SEO (optimización para motores de búsqueda). Los fragmentos de contenido cortos, como el que se muestra arriba, pueden crearse fácilmente a un bajo coste.

Como expertos en SEO y creadores de contenido, es imperativo comprender GPT 3. ¿Significa esto que la escritura humana está obsoleta? ¿Puede producir textos de alta calidad? ¿Representa esto un escenario apocalíptico donde los bots de spam SEO produzcan basura ilimitada?

Aunque hay algo de verdad en estos temores, creemos que la exageración en torno a GPT 3 requiere un análisis más claro. Para entender el impacto de las tecnologías de generación de texto en el SEO y la redacción de contenidos, primero debemos desglosar qué hace GPT 3, por qué es importante y cómo funciona.

La versatilidad de GPT-3

GPT-3 y sus tecnologías predecesoras (GPT y GPT 2) son una línea de investigación sobre modelos de PLN (Procesamiento del Lenguaje Natural) generales desarrollados por OpenAI. Pero, ¿qué significa ser general?

El aprendizaje automático tiene una larga historia de desarrollo de sistemas que son buenos en una sola cosa. Estos sistemas se denominan IA estrecha. Si quieres una IA que prediga la calificación de una reseña en Amazon, puedes entrenar una fácilmente si dispones de suficientes datos de entrenamiento. Si quieres desarrollar un modelo que pueda analizar una foto de perfil en las redes sociales y decirte quién es, puedes entrenar otro modelo que haga exactamente ese trabajo.

El problema es que los sistemas de IA entrenados en una sola de estas tareas son incapaces de funcionar en cualquier otra cosa, de ahí el término estrecho. Están limitados al ámbito para el que fueron entrenados. El santo grial actual de la investigación en IA es buscar tecnologías más generales, es decir, IA que puedan hacer muchas cosas. He aquí por qué las tecnologías generales marcan la diferencia.

¿Por qué crear IA generalistas?

Existe un pensamiento común: ¿no deberían preferirse los expertos especializados?

En los inicios de la informática, se creaban ordenadores especializados que solo podían calcular y resolver un tipo de problema. Imagina tener una calculadora especializada que solo pudiera hacer sumas, pero nada más. Claro, sería excelente sumando y lo haría muy rápido, pero no resultaría de gran utilidad.

En cambio, es mucho más útil tener un ordenador que pueda sumar, restar, navegar por internet, reproducir videojuegos, etc. Los ordenadores modernos basados en la arquitectura de von Neumann tienen estas capacidades generales. En retrospectiva, es fácil decir que la informática de uso general es uno de los inventos más trascendentales de la humanidad.

El mismo principio se aplica a tecnologías de IA como GPT 3. Queremos que nuestros sistemas tengan versatilidad, ya que esto nos permite resolver muchos más problemas sin tener que diseñar manualmente soluciones para cada tarea específica. Además, resulta que se ha demostrado que los enfoques de aprendizaje general aumentan la precisión de la IA en tareas de PLN en al menos un 60 %.

Después de todo, los seres humanos poseemos una forma de inteligencia general. Esta nos permite adquirir habilidades que ni siquiera sabemos de antemano si nos serán útiles. Para quienes estén interesados en lo que significa tener inteligencia general, recomendamos el artículo de Chollet Sobre la medida de la inteligencia.

Para el marketing SEO, esto significa que no necesitamos saber de antemano qué tipo de contenido queremos producir. No necesitamos crear una IA diferente para un propósito ligeramente distinto.

GPT-3 es un sistema de IA que exhibe algunas propiedades de la inteligencia general (a veces llamada Inteligencia General Artificial incipiente o Proto-AGI). Por ejemplo, podemos indicarle a la IA ejemplos de diálogos entre personajes y pedirle que los complete:

Rex es un viajero del tiempo del futuro. Ada es una mujer de la nobleza del siglo XIX. Rex: Creo que he estrellado mi máquina del tiempo en tu jardín. Ada: ¿Disculpe? ¿Qué ha dicho, joven?

También puede realizar una variedad de tareas adicionales e incluso generar código HTML. Esto es algo revolucionario porque significa que podemos resolver muchas tareas relacionadas con la creación de contenidos gracias a GPT.

Entonces, ¿significa esto que GPT 3 puede resolver todas las tareas relevantes relacionadas con el SEO? ¿Puede crear entradas de blog para cualquier tema o contenido para cualquier categoría que deseemos? No del todo. Para responder a esa pregunta, tenemos que desglosar cómo funciona GPT 3.

Cómo aprende GPT 3

Aprovechando el Big Data

Los modelos de aprendizaje automático (y especialmente las redes neuronales profundas) son insaciables en cuanto a datos y solo funcionan de manera óptima cuando se les suministra una gran cantidad de ellos. Al fin y al cabo, los datos son el nuevo petróleo.

Pero obtener datos es difícil y costoso. La mayoría de los sistemas de aprendizaje automático útiles requieren que los humanos etiqueten laboriosamente cada uno de los puntos de datos. Los datos etiquetados suelen ser el principal cuello de botella en muchas aplicaciones porque su obtención es cara. ¡Imagina el coste de contratar a una flota de trabajadores en Amazon Mechanical Turk!

GPT 3 soluciona este problema creando su propia señal de entrenamiento mediante el modelado de texto que se encuentra de forma natural en la web. Adopta un paradigma de aprendizaje automático llamado aprendizaje no supervisado (o auto-supervisado). Esto permite el aprendizaje sin datos etiquetados por humanos. Para quienes deseen profundizar en los detalles técnicos del aprendizaje no supervisado, nuestro director de tecnología ha escrito un análisis detallado aquí.

Pero incluso sin etiquetas, necesitamos muchísimos datos, ¿verdad?

Resulta que los datos están justo delante de nuestras narices. Internet contiene un sinfín de artículos de alta calidad y bien redactados sobre una gran variedad de temas, y todos ellos son fácilmente accesibles. Lo maravilloso de la técnica de entrenamiento de GPT es que simplemente necesita aprender a predecir estos artículos escritos por humanos para funcionar de forma excelente.

Pero un momento, ¿no hay también mucha basura en la web? ¿No aprendería GPT 3 de ella también?

Es cierto. Los creadores de GPT mitigaron algunos de estos problemas utilizando el método de crowd-sourcing para seleccionar sus datos. Una forma de hacerlo es analizar las URL que la gente comparte en Reddit y rastrear únicamente el contenido y las publicaciones de sitios web que cuenten con un número elevado de votos positivos en Reddit.

Aprender mediante la generación de lenguaje

Una vez que se tienen los datos, ya se puede entrenar a GPT. Pero, ¿cómo se puede entrenar para que adquiera todas estas capacidades generales que deseamos? Una idea es simplemente hacer generación de texto. GPT aprende a generar lenguaje natural prediciendo la siguiente palabra de un artículo a partir de las palabras anteriores.

Esa es la razón principal por la que GPT solo genera contenido de izquierda a derecha (no puede hacerlo a la inversa). Este tipo de aprendizaje se denomina modelado del lenguaje.

Es tan sencillo como eso.

Al predecir qué palabra viene después en una frase, la IA debe aprender a utilizar las demás palabras de su contexto. Esto obliga a GPT implícitamente a asimilar muchos otros conocimientos generales importantes.

Lo que no puedo crear, no lo entiendo.

-- Richard Feynman

Para predecir correctamente la siguiente palabra, también debes tener cierta comprensión del sentido común de nuestro mundo, además de aspectos básicos como la sintaxis y la gramática del idioma. Así es como la simple predicción de artículos permite a GPT aprender comportamientos asombrosamente humanos.

Los sistemas de generación de lenguaje tienen una larga trayectoria en el aprendizaje automático, y GPT no es nuevo en esto. De hecho, algunos investigadores de IA consideran que GPT no es tanto un logro científicamente novedoso, sino más bien una impresionante hazaña de ingeniería. Nos enseña una lección importante sobre lo que más de 4 millones de dólares gastados en recursos informáticos combinados con una gran cantidad de datos pueden y no pueden conseguirnos.

¿Cuál es el veredicto entonces?

OpenAI nos demostró que escalar las soluciones de IA puede llevarnos bastante lejos. GPT, cuando se escala a su tamaño máximo, puede extraer una gran cantidad de capacidades generales simplemente observando cómo escriben los humanos. Por eso se observa un rendimiento tan impresionante en el modelo. Recientemente, Google ha escalado una versión de GPT llamada Switch Transformers a un tamaño 10 veces superior al de GPT-3.

Es la amarga lección de la que se han percatado muchos investigadores de IA: las soluciones impulsadas por la computación y el aprendizaje superan al esfuerzo humano manual. Al escalar un marco de generación simple, obtenemos un GPT 3 que escribe casi como un ser humano.

Sin embargo, GPT 3 no está exento de limitaciones. Como profesionales de SEO y del marketing de contenidos, conocer estas limitaciones es sumamente importante e influye en cómo podemos aprovechar esta tecnología de lenguaje natural.

Limitaciones de la generación de texto

Modelo de mundo deficiente y veracidad de los datos

A pesar de la gran expectación, GPT no tiene una comprensión profunda de nuestro mundo. Una forma interesante de comprobar esta falta de un modelo del mundo es plantearle a GPT cualquier duda relacionada con la física del sentido común o el mundo real. Como se menciona en el artículo técnico de OpenAI, tiene dificultades para responder a preguntas como "Si meto queso en la nevera, ¿se derretirá?". Tampoco es capaz de comprender conceptos humanos como los juegos de palabras.

Una posible razón de este fenómeno es que la IA no posee una cognición corporizada; es decir, nunca ha visto ni sentido una nevera en la realidad, a pesar de haber leído sobre ella muchas veces a través de los datos de entrenamiento. Si confías ciegamente en la IA para generar el texto de tu estrategia de marketing de contenidos, obtendrás algunas incoherencias y datos incorrectos.

Sesgos no deseados

GPT se entrena con la información de la web y, por lo tanto, sufre de los mismos sesgos que presentan los datos de internet. De este modo, el uso directo de GPT puede dar lugar a la creación de contenidos inapropiados u ofensivos. Algunas formas de mitigar esto implicarían filtros de contenido ofensivo que rechacen textos inadecuados. Reducir los sesgos no deseados en el aprendizaje automático sigue siendo un campo de investigación muy activo.

Adaptación al dominio

Aunque GPT ha adquirido una comprensión general del lenguaje, es posible que no sea el adecuado para tu sector específico. Investigaciones recientes demuestran que ajustar y optimizar modelos similares a GPT puede conducir a resultados aún mejores.

GPT puede funcionar con solo unos pocos ejemplos, pero proporcionarle una mayor cantidad de datos sin duda ofrecerá mejores resultados. Otra limitación de GPT es su longitud máxima de generación, lo que podría hacer que no sea adecuado para utilizar documentos largos como entrada de información.

Eficiencia práctica

Aunque todavía es pronto para saberlo, parece que OpenAI planea cobrar un precio premium por el uso de GPT. Esta solución puede resultar costosa para algunos casos de uso, y el servicio proporcionado no está diseñado específicamente para el SEO. Utilizar o entrenar GPT de forma interna es un reto práctico debido a su gigantesco tamaño de parámetros.

Este problema será de menor importancia a largo plazo. Existen vías de investigación que permitirán formas más eficientes de ejecutar GPT, lo que reducirá el coste a largo plazo.

La oportunidad de GPT-3 para el SEO

Así pues, GPT-3 es un potente sistema de generación de texto. Pero, ¿qué significa todo esto para el marketing de contenidos? El marketing de contenidos para SEO consta de muchos pasos, que van desde la investigación de palabras clave, el análisis de la competencia y, finalmente, la creación de tu contenido.

Vemos que GPT se utiliza principalmente para crear contenidos, pero no puede hacerlo de forma aislada. Debido a las limitaciones de la tecnología, es evidente que dejar que el algoritmo funcione libremente no daría grandes resultados. Tiene que haber un humano supervisando el proceso.

De redactores a artistas

GPT brilla con luz propia cuando se utiliza como una herramienta en colaboración con redactores humanos; el cómo los redactores utilizan las herramientas de IA sin perder su propia voz se está convirtiendo en una habilidad fundamental para los equipos de SEO. Esto se debe a que los redactores humanos son excelentes en varios aspectos en los que la IA se queda corta. Por ejemplo, los redactores son mejores en el pensamiento estratégico a alto nivel y en determinar qué esferas de contenido redactar. La IA es excelente para tareas mecánicas o rutinarias, como crear páginas de categorías a partir de una lista de páginas web de un sitio.

Gran parte del esfuerzo al escribir se dedica a problemas básicos como la corrección gramatical, el tono y la fluidez. Con GPT, el papel del redactor humano evoluciona al de un editor. Imagina realizar trazos amplios con un pincel sobre un lienzo: la IA se encarga de rellenar los detalles de la imagen y luego el humano edita esos detalles hasta que queda perfecta.

En cierta forma esto es maravilloso, ya que los redactores pueden centrarse en aspectos mucho más interesantes: dar forma a ideas de contenido de calidad y enfocarse en el lado más creativo de la escritura. Esto es infinitamente mejor que limitarse a maquetar páginas de categorías, obsesionarse con el número de palabras clave necesarias para posicionar un artículo o asegurarse minuciosamente de que cada frase suene fluida.

Herramientas para unir a humanos e IA

La consecuencia lógica de lo anterior es que necesitamos una experiencia de usuario sobresaliente y herramientas que aprovechen el potencial de GPT para que pueda fusionarse a la perfección con la labor de los redactores. En términos generales, existen varias formas de aplicar la tecnología de tipo GPT para crear herramientas útiles de redacción de contenidos. He aquí algunos ejemplos de tecnologías de IA aplicadas a diversas utilidades:

Análisis de legibilidad

Lograr una buena legibilidad es una parte fundamental en el desarrollo de un gran contenido. Ayuda a que tus usuarios permanezcan interesados y pasen más tiempo en tu página, lo cual es un factor clave para posicionar alto en Google. Sin embargo, redactar artículos que sean sencillos de leer es más fácil de decir que de hacer.

Aquí en Jenni, hemos desarrollado una herramienta que hará ese trabajo por ti. Utilizamos una tecnología similar a GPT 3, pero adaptada para la reescritura automática de frases de modo que el texto resulte mucho más accesible y legible.

Refraseo inteligente

Parafrasear es el arte de utilizar un texto de origen sin citar directamente el material original. Cada vez que extraigas información de una fuente que no sea tuya, debes indicar de dónde la has obtenido. Esa duda también surge a menudo con la IA; nuestro análisis sobre la redacción con IA, el plagio y la originalidad aborda los aspectos en los que debes fijarte.

El párrafo anterior fue parafraseado a partir de la definición de Purdue utilizando nuestra IA de refraseo automático. Una IA que realiza un refraseo inteligente puede reescribir cualquier frase de una manera distinta a la fuente o adaptarla a los diferentes estilos de escritura que desees.

En Jenni, hemos realizado estudios con nuestros redactores y hemos descubierto que la automatización del refraseo puede ahorrar al menos un 30 % del tiempo del redactor. También permite a los profesionales experimentar con redacciones alternativas para una frase, algunas de los cuales pueden fluir de forma más natural que el original o transmitir mejor la intención.

Optimización de temas

Muchos expertos en SEO confían en la optimización de temas como una manera de asegurar que su contenido posicione alto en los motores de búsqueda. En efecto, desarrollar un conjunto de temas es vital para ser relevante en ciertas búsquedas de los usuarios, pero garantizar que un artículo satisfaga todas las exigencias del tema es un reto constante.

Nuestros editores solían dedicar entre 1 y 4 horas a optimizar los temas manualmente. Utilizar sistemas de IA para detectar la relevancia temática en tu artículo puede ayudarte a mantener tu redacción por el buen camino, lo que ahorrará a los editores tener que reescribir contenido irrelevante.

Resúmenes

Como hemos analizado anteriormente, la IA es excelente para tareas rutinarias y la creación de resúmenes no es la excepción. Cuando se trata de redacción de contenidos, descubrimos que una tarea sumamente común que realizan los redactores es resumir otros textos de consulta.

La síntesis de textos es una tarea en la que los sistemas de IA han demostrado funcionar de manera excelente en entornos comerciales y de producción. En lugar de leer un denso bloque de texto, ¿por qué no dejar que una IA te proporcione una lista concisa de puntos clave? Con un espíritu similar, puedes utilizar la IA para generar índices o páginas de categorías si ya has estructurado tu sitio web.

¿Puede el contenido generado posicionar en buscadores?

A algunos profesionales del SEO les preocupa que el uso de la generación automática de contenidos pueda acarrear penalizaciones por parte de Google.

Google, al igual que muchos motores de búsqueda, desea ofrecer el contenido más relevante a sus usuarios. Por tanto, el principal problema con el contenido generado no es el hecho de que sea artificial, sino que su intención suele ser crear spam. Google ha declarado que, siempre y cuando el contenido aporte un valor real al usuario comercial y no se utilice para manipular el sistema de posicionamiento, el contenido generado es aceptable.

De hecho, muchos grandes medios de comunicación y noticias como Forbes ya utilizan tecnologías de generación de contenidos para asistirse. La clave aquí es fusionar lo mejor de ambos mundos (la inteligencia humana y la artificial) para crear contenidos realmente atractivos. Contribuir con conocimientos valiosos a internet te garantizará posicionar en los primeros puestos, incluso si parte de tu contenido ha sido generado con IA.

El futuro de la IA y el SEO

La línea entre la ciencia y la ficción continúa desdibujándose con el lanzamiento de modelos de IA de última generación como GPT. La enorme mejora de calidad entre GPT 2 y GPT 3 en tan solo un año es asombrosa. Con el paso del tiempo, es cada vez más probable que el periódico que lees antes de desayunar haya sido escrito por alguien o por algo que jamás ha probado una tortilla en su vida.

Por ello, creemos que es sumamente importante comprender a fondo esta tecnología más allá de la simple novedad del momento. Quienes no pertenecen al campo del SEO pueden limitarse a estar impresionados por el avance de la tecnología. Quienes sí formamos parte del SEO y creamos contenidos necesitaremos adaptarnos y adoptar estas herramientas innovadoras para mantenernos en la cima de los resultados de búsqueda. ¡Únete a Jenni AI hoy mismo y descubre cómo potenciar tu escritura académica y profesional al siguiente nivel!