Con el crecimiento masivo de ChatGPT En los titulares todos los días, Google y Microsoft respondieron mostrando chatbots de IA integrados en sus motores de búsqueda. Está claro que la IA es el futuro. ¿Pero el futuro de qué?
En Tom’s Hardware, queremos ampliar los límites de la tecnología para ver qué es posible, por lo que, a nivel técnico, estoy impresionado con las respuestas de los chatbots similares a los humanos. La IA es una herramienta poderosa que se puede utilizar para mejorar el aprendizaje, la productividad y el disfrute humanos. Pero tanto el bot Bard de Google como el chatbot «New Bing» de Microsoft se basan en una premisa defectuosa y peligrosa: que a los lectores no les importa de dónde proviene su información ni quién está detrás de ella.
Basados en aportes de autores humanos, los motores de IA de ambas compañías se están posicionando como alternativas a los artículos de los que aprendieron. El resultado final podría ser una web más cerrada, con menos información gratuita y menos expertos que ofrezcan buenos consejos.
Google hizo una demostración de Bard en un tuit y en un evento transmitido en vivo, donde no solo brindó respuestas fácticas, sino también recomendaciones. La empresa se avergonzó cuando descubrió que una de las respuestas de Bard era incorrecta, pero los problemas con Bard y New Bing van mucho más allá de la inexactitud.
Dar consejos, sin el asesor
En el evento en vivo, el vicepresidente sénior de Google, Prabhakar Raghavan, dijo que Bard era una buena opción para responder preguntas que clasificó como NORA (Nadie tiene la respuesta correcta). “Para preguntas como estas, probablemente queramos aprovechar una amplia gama de opiniones o perspectivas y estar conectados con la inmensidad de la sabiduría de la web”, dijo. “Las nuevas capacidades generativas de IA nos ayudarán a organizar información compleja y múltiples puntos de vista directamente en los resultados de búsqueda”.
La «expansión web» en realidad significa que el bot está robando datos de millones de artículos que fueron escritos por humanos que no reciben crédito ni compensación por su trabajo. Pero no sabrías nada de eso desde la partida de Bard.
Raghavan mostró a Google respondiendo «¿cuáles son las mejores constelaciones para buscar al mirar las estrellas?» En lugar de mostrarle los mejores artículos de la web sobre ese tema, el motor de búsqueda muestra su propio miniartículo con su propio conjunto de constelaciones recomendadas. No hay citas para decir de dónde provienen estos «múltiples puntos de vista», ni hay ninguna autoridad para respaldar las afirmaciones que hace.
(Crédito de la imagen: Google)
Bard dice: “Hay muchas constelaciones que puedes mirar hacia arriba la próxima vez que mires las estrellas. Aquí hay algunos populares”. ¿Cómo sabemos que son populares y cómo sabemos que son las mejores constelaciones? ¿Con autoridad de quién dice esto el bot? Aparentemente, deberíamos confiar en él.
Pero la confianza es difícil de encontrar. El tuit de la compañía mostró una situación incómoda en la que Bard da una lista de «nuevos descubrimientos» del Telescopio Espacial James Webb (JWST), pero uno de los tres elementos no es en realidad un nuevo descubrimiento. De acuerdo con NASAlas primeras imágenes de un exoplaneta se tomaron en 2004, mucho antes del lanzamiento del JWST en 2021.
(Crédito de la imagen: Google)
Muchos críticos estarán justificadamente preocupados por las posibles inexactitudes de los hechos en los resultados del chatbot, pero probablemente podamos asumir que a medida que la tecnología mejore, mejorará en la eliminación de errores. El mayor problema es que los bots te están dando consejos que parecen surgir de la nada, aunque obviamente se compilaron tomando contenido de escritores humanos que Bard ni siquiera está acreditando.
Devaluación de la experiencia, la autoridad y la confianza
Irónicamente, el movimiento de Google va en contra de los principales criterios que la empresa dice que prioriza en las clasificaciones de búsqueda orgánica. La empresa asesora a los editores web que considera comer (Experiencia, Pericia, Autoridad y Confianza) al decidir qué artículos están en la parte superior de una página y cuáles aparecen en la parte inferior. Tiene en cuenta criterios como los antecedentes del autor, si describe experiencias relevantes y si la publicación tiene reputación de ser confiable. Por definición, un bot no puede cumplir ninguno de estos criterios.
Cuando no hay una respuesta correcta, es cuando más importa el contenido humano. Queremos el consejo de una fuente confiable, alguien con experiencia en la materia y un conjunto de opiniones profesionales basadas en la experiencia.
Si conocemos al autor, podemos emitir juicios sobre la fiabilidad de la información. Es por eso que cuando voy a reuniones familiares, los familiares se me acercan y me hacen preguntas como «¿Qué computadora portátil debo comprar?» Podrían simplemente hacer una búsqueda en la web para esta pregunta (y tal vez deberían hacerlo), pero me conocen y creen que no los engañaré.
Google espera que en un mundo donde todos tengan una opinión y se expresen en las redes sociales, la experiencia ya no sea importante para los usuarios. La compañía espera que solo lea lo que ve en la parte superior de la pantalla, lo crea más que cualquier otra cosa y luego permanezca en el sitio para poder seguir viendo sus anuncios, una fuente de ingresos, durante todo el día. Si abandona el motor de búsqueda, estará en el sitio web de otra persona, donde Google puede o no ser responsable de publicar los anuncios.
Bing muestra fuentes pero las entierra
A nova implementação do chatbot do Bing é um pouco melhor do que a do Google, pois na verdade mostra as fontes, mas as enterra em pequenas notas de rodapé, algumas das quais nem são visíveis, a menos que você clique em um botão para expandir la respuesta.
(Crédito de la imagen: Hardware de Tom)
A pesar de que las citas en el chatbot de Bing fueron más prominentes, aún ofrece consejos que sería mejor obtener de alguien con experiencia. En el ejemplo anterior, el bot prepara una cena vegetariana de tres platos con un postre de chocolate. Pero, ¿cómo sé que estas son las mejores recetas o que estos platos combinan bien?
Prefiero confiar en el resultado principal de la investigación, que fue escrito por un humano que ha cocinado antes y pensó en este conjunto de platos como lo haría una persona. Sin embargo, para crédito de Bing, coloca su propio contenido junto con los resultados de búsqueda orgánicos en lugar de empujarlos hacia abajo.
(Crédito de la imagen: Hardware de Tom)
Se podría argumentar que los temas de demostración que Google y Microsoft han elegido son muy subjetivos. Algunas personas pensarán que Orión es la mejor constelación para observar, mientras que otras elegirán a la Osa Mayor. Y eso es exactamente por qué el autor importa.
Todos nos guiamos por nuestros sesgos y, en lugar de tratar de ocultarlos, los mejores autores los abrazan y los publicitan. Si ha leído algunas de mis reseñas de computadoras portátiles, sabe que la escritura táctil es importante para mí. He experimentado con cientos de teclados de portátiles en mi carrera; Puedo decir cuáles son blandos y cuáles son táctiles y rápidos. Y la comodidad del teclado será un factor en mis recomendaciones si me pregunta qué modelos son los mejores. Si no le importa la calidad del teclado o le gustan las teclas esponjosas, puede decidir darle menos peso a mis calificaciones (o ese aspecto de ellas).
No sabemos qué sesgos hay detrás de las listas de recetas, constelaciones o cualquier otra cosa del bot. Los datos pueden incluso extraerse de los anuncios.
Los bots de IA podrían dañar la web abierta
Admito otro sesgo. Soy escritor profesional, y los chatbots como los que muestran Google y Bing son una amenaza existencial para cualquiera que cobre por sus palabras. La mayoría de los sitios web dependen en gran medida de la búsqueda como fuente de tráfico, y sin esos globos oculares, el modelo comercial de muchos editores está en bancarrota. Sin tráfico significa que no hay anuncios, no hay clics de comercio electrónico, no hay ingresos ni empleos.
Eventualmente, algunos editores pueden verse obligados a cerrar el negocio. Otros pueden esconderse detrás de los muros de pago y otros pueden evitar que Google y Bing indexen su contenido. Los bots de IA se quedarían sin fuentes de calidad para recopilar, lo que haría que sus consejos fueran menos confiables. Y los lectores tendrían que pagar más por contenido de calidad o conformarse con menos voces.
Al mismo tiempo, está claro que estos bots están siendo entrenados indexando el contenido de escritores humanos, muchos de los cuales han sido pagados por los editores por su trabajo. Entonces, cuando el bot dice que Orión es una gran constelación para ver, es porque en algún momento visitó un sitio como nuestro sitio hermano. espacio.com y recopilado información sobre las constelaciones. La forma en que se entrenaron los modelos es una caja negra, por lo que no sabemos qué sitios exactos llevaron a qué afirmaciones fácticas, aunque Bing nos da una idea con sus citas.
Si lo que Google y Bing están haciendo constituye plagio o infracción de derechos de autor está abierto a interpretación y puede determinarse en los tribunales. Actualmente, Getty Images es procesamiento difusión estable, una empresa que genera imágenes de IA, por usar 10 millones de sus imágenes para entrenar el modelo. Puedo imaginar una editorial importante siguiendo su ejemplo.
Hace unos años, Amazon era creíblemente acusado de copiar productos de sus propios vendedores externos y luego fabricando sus propios productos con la marca Amazon, que, como era de esperar, aparecen más arriba en la búsqueda interna. Eso suena familiar.
Se podría argumentar que LaMDA de Google (que impulsa a Bard) y el motor OpenAI de Bing están haciendo lo mismo que un autor humano puede hacer. Están leyendo fuentes primarias y luego resumiéndolas en sus propias palabras. Pero ningún autor humano tiene el tipo de poder de procesamiento o la base de conocimientos que tienen estas IA.
También podría argumentar que los editores necesitan una mejor fuente de tráfico que Google, y nosotros la necesitamos, pero la mayoría de los usuarios han sido capacitados para tratar la búsqueda como su primera parada en Internet. En 1997, la gente iba a Yahoo, buscaba en un directorio de sitios web, encontraba los que coincidían con sus intereses, los marcaba como favoritos y volvía de nuevo. Esto era muy parecido al modelo de audiencia para las cadenas de televisión, las revistas y los periódicos, ya que la mayoría de las personas tenían algunas fuentes de información preferidas en las que confiarían con regularidad.
Pero la mayoría de los usuarios de Internet han sido capacitados para acceder a plataformas de distribución como Google, Facebook y Twitter y navegar por la web desde allí. Es posible que le guste y confíe en un editor, pero por lo general llega al sitio de ese editor buscándolo en Google o Bing, a los que puede acceder directamente desde la barra de direcciones de su navegador. Será difícil para cualquier editor o incluso para un grupo de editores cambiar este comportamiento profundamente arraigado.
Más importante aún, si usted es un consumidor de información, se le trata como un bot, se espera que absorba la información sin importarle de dónde proviene o si puede confiar en ella. Esta no es una buena experiencia de usuario.
Nota: Al igual que con todos nuestros artículos de opinión, las opiniones expresadas aquí pertenecen únicamente al escritor y no a Tom’s Hardware como equipo.
