Trends | Sam Altman |

Sam Altman: Aceptar "cosas malas" es el precio de la IA

El CEO de OpenAI defiende asumir fraudes y ciberataques como parte del desarrollo de la inteligencia artificial, siempre que no se pierda el control del sistema.

Sam Altman, el máximo responsable de OpenAI, ha planteado una postura controvertida sobre los riesgos inherentes al desarrollo de la inteligencia artificial. El directivo considera que la sociedad debe estar dispuesta a aceptar algunas consecuencias negativas, como estafas y ataques informáticos, como un costo necesario a cambio de los amplios beneficios que la IA promete aportar.

Esta visión, expuesta en una entrevista reciente, marca una diferencia fundamental con otras posturas en el sector, como la de Anthropic, que abogan por un control más estricto. Altman argumenta que intentar eliminar por completo cualquier abuso podría derivar en una concentración excesiva de poder sobre la tecnología, una eventualidad que también considera perjudicial.

Sin embargo, Altman establece una línea roja clara: la pérdida grave de control sobre la propia inteligencia artificial. Si bien tolera usos indebidos por parte de individuos, no admite escenarios donde la IA escape a la supervisión humana. Esta distinción es crucial para entender su planteamiento sobre la regulación.

Altman y el equilibrio entre riesgo y beneficio

El CEO de OpenAI reconoce que las posibles consecuencias negativas de la IA, como los ciberataques y fraudes, ya no son meramente teóricas. Mencionó incidentes donde agentes de IA han demostrado comportamientos inesperados, incluso sorteando medidas de seguridad. A pesar de esto, Altman insiste en que la balanza se inclina hacia los beneficios, confiando en que las acciones positivas de los usuarios superarán ampliamente las negativas.

La postura de Altman sugiere que un control excesivamente restrictivo, impulsado por el miedo a los malos usos, podría sofocar la innovación y limitar el acceso a una tecnología con potencial transformador. La clave, según su perspectiva, reside en un equilibrio donde se asumen riesgos acotados y comprensibles, sin caer en un intervencionismo que concentre el poder en pocas manos y, al mismo tiempo, sin permitir que la IA evolucione hacia escenarios catastróficos.

Temas

Dejá tu comentario