Los «agentes de inteligencia artificial» (IA) están en camino Estemos preparados o no. Si bien hay mucha incertidumbre sobre cuándo los modelos de la IA pueden interactuar de forma autónoma con plataformas digitales, otras herramientas de IA e incluso con personas, no hay duda de que este evento es transformador, para bien o para lo malo. A pesar de todos los comentarios, y la cómoda bomba publicitaria ¿Qué tipo de agente de IA El objetivo es desarrollar la industria tecnológica.
Los diferentes modelos tienen efectos muy diferentes. Con un enfoque de IAComo agentes, las personas ofrecerán recomendaciones calibradas individualmente a las personas responsables de la toma de decisiones y siempre las dejarán en el asiento del conductor. Pero con un modelo autónomo, las máquinas toman el volante en nombre de las personas. Es una distinción con efectos profundos y largos.
Las personas toman cientos de decisiones todo el día, algunas de las cuales son consecuencias importantes para su carrera, su sustento o su felicidad. Muchas de estas decisiones se basan en información imperfecta o incompleta, que está más determinada por emociones, intuiciones, instintos o impulsos. Como filósofo, el historiador y economista David Hume dijo famoso: «La razón es y solo debería ser un esclavo para las pasiones». Las personas pueden cumplir con la mayoría de las decisiones sin pensamiento sistemático o sin atención a todas las implicaciones, pero como Hume reconoció con la parte «obligatoria» de su declaración, eso no es tan malo. Es lo que nos hace humanos. La pasión refleja el propósito y también puede desempeñar un papel clave en cómo estamos expuestos a un mundo complejo.
Se pueden mejorar muchas decisiones importantes con asesores de IA que proporcionan información personalizada, confiable y relevante para el contexto y las decisiones útiles, pero las razones humanas seguirán siendo dominantes. Pero, ¿qué pasa con la IA autónoma que toma decisiones en nuestro nombre? ¿No podría tomar una decisión, ahorrar tiempo y evitar errores?
Esta perspectiva crea varios problemas. Primero, la experiencia humana para el aprendizaje y la floración del hombre es esencial. El mero hecho de tomar decisiones Y mire los resultados, incluso si vienen las contribuciones y los consejos de agentes no humanos, nuestro propio significado y nuestro propio propósito. Gran parte de lo que la gente hace es no calcular o recopilar datos para decidir un enfoque óptimo, sino a partir del descubrimiento, una experiencia que se está volviendo cada vez menos común cuando todas las decisiones se delegan a un inteligente artificial.
Sin embargo, si la industria tecnológica busca principalmente ingredientes activos autónomos, la probabilidad de que se automatizarán más empleos humanos significativamente. Sin embargo, si la IA es principalmente un medio Acelerar la automatización, Cualquier esperanza de prosperidad generalizada se desvanecerá.
Y lo que es más importante, existe una diferencia fundamental entre los agentes de IA que trabajan en nombre de las personas y las personas que actúan por sí mismas. Muchos entornos en los que las personas interactúan tienen elementos cooperativos y contradictorios. Considere el caso de una empresa que proporciona información para otra. Si esta información es lo suficientemente valiosa para el comprador, un intercambio entre las dos compañías es ventajoso para ambas partes (y generalmente también beneficia a la sociedad).
Sin embargo, para que haya un intercambio, el precio del producto o el servicio relevante debe determinarse mediante un proceso intrínsecamente contradictorio. Cuanto mayor sea el precio, más beneficia el vendedor en relación con el comprador. El resultado de este tipo de negociaciones generalmente está determinado por una combinación de normas, por ejemplo, a la equidad, las instituciones, como contratos que imponen costos cuando están lesionados y fuerzas del mercado, por ejemplo, si el vendedor tiene la oportunidad de vender a otra persona. Sin embargo, imaginamos que el comprador debe ser completamente inflexible y se niega a aceptar algo más que el precio más bajo posible. Si no hay otros compradores, el vendedor puede verse obligado a aceptar la oferta más baja.
Afortunadamente, estas posiciones intransigentes en nuestras transacciones diarias son raras, a veces porque es mejor no tener una mala reputación y, sobre todo, porque la mayoría de las personas no tienen el valor o el esfuerzo para actuar de manera tan agresiva durante su día. Pero ahora imaginemos que el comprador tiene un agente autónomo de IA que no se ocupa de las sutilezas humanas y tiene nervios de acero fuera de los sentimientos de las personas. IA puede ser entrenado de tal manera que esta posición inflexible siempre ocupa, y la contraparte no tiene esperanza de convencerlo de lograr un resultado más ventajoso para ambas partes. Por el contrario, en un mundo en el que AI actúa como consultor, el modelo podría recomendar una posición intransigente, pero al final el hombre decidiría si seguir este camino o no.
A corto plazo, los sistemas agrícolas autónomos de un mundo desigual pueden dar paso, en el que solo unas pocas empresas o individuos tienen acceso a modelos de muy capaces y creíbles. Pero incluso si se adquirieran las mismas herramientas, eso no sería mejor. Toda nuestra sociedad estaría expuesta a los «juegos de guerra de guerra», en el que los agentes de IA conducen a cualquier situación contradictoria al borde del colapso.
Estos enfrentamientos son arriesgados en sí mismos. Como en el juego de pollo, si dos autos se aceleran para ver quién se va de antemano, siempre es posible que ninguna de las partes. Cuando eso sucede, ambos pilotos «ganan», y ambos también mueren.
Una IA que fue entrenada para el juego «Chicken» nunca se desviará. Si bien la IA podría ser un buen consultor para las personas, información útil, confiable y relevante en tiempo real, es probable que un mundo de agentes autónomos de IA provoca muchos problemas nuevos, mientras que Erosione podría haber ofrecido muchos éxitos que podrían haber ofrecido tecnología.
