{"id":218,"date":"2025-07-11T06:11:52","date_gmt":"2025-07-11T12:11:52","guid":{"rendered":"https:\/\/hacking.onesec.mx\/?p=218"},"modified":"2025-07-11T06:14:25","modified_gmt":"2025-07-11T12:14:25","slug":"mas-alla-de-la-innovacion-el-costo-oculto-de-confiar-tu-informacion-a-la-ia","status":"publish","type":"post","link":"https:\/\/hacking.onesec.mx\/index.php\/2025\/07\/mas-alla-de-la-innovacion-el-costo-oculto-de-confiar-tu-informacion-a-la-ia\/","title":{"rendered":"M\u00e1s all\u00e1 de la innovaci\u00f3n: El costo oculto de confiar tu informaci\u00f3n a la IA"},"content":{"rendered":"\n

No es nada nuevo decir que la Inteligencia Artificial<\/strong> ha irrumpido en pr\u00e1cticamente todos los sectores con una velocidad impresionante. Desde asistentes virtuales usados en el d\u00eda a d\u00eda, hasta modelos incorporados en herramientas de productividad y an\u00e1lisis<\/strong>. Su capacidad potencial para optimizar procesos y presentar conocimiento ha fascinado a negocios y usuarios por igual. Sin embargo, quiz\u00e1 la pronta adopci\u00f3n y el entusiasmo puedan presentarnos nuevos escenarios con problem\u00e1ticas capaces de impactar en aspectos de suma importancia.<\/p>\n\n\n\n

\n
\"Gr\u00e1fica
Gr\u00e1fica de adopci\u00f3n de AI de acuerdo al Artificial Intelligence Index Report 2025<\/em>. <\/figcaption><\/figure>\n\n\n\n
\n

De acuerdo al Artificial Intelligence Index Report 2025<\/em> de la Universidad de Stanford.<\/p>\n\n\n\n

El uso de la IA en las empresas se est\u00e1 acelerando: el 78% de las organizaciones encuestadas informaron que utilizar\u00edan IA en 2024, en comparaci\u00f3n con el 55% del a\u00f1o 2023.<\/p>\n<\/blockquote>\n<\/div>\n\n\n\n

Se podr\u00eda trabajar sobre distintos aspectos cr\u00edticos en los que la Inteligencia Artificial<\/strong> pueda tener un gran impacto: como la toma de decisiones, la educaci\u00f3n, la optimizaci\u00f3n de procesos, la empleabilidad entre muchos otros. Sin embargo esta publicaci\u00f3n se centrar\u00e1 en uno de los principales problemas que puede acarrear el creciente n\u00famero de informaci\u00f3n sensible que compartimos<\/strong> con los modelos de IA generativa.<\/p>\n\n\n\n

Riesgos de confidencialidad en el ecosistema de la IA generativa<\/h2>\n\n\n\n

Quiz\u00e1 hemos normalizado el hecho de compartir informaci\u00f3n importante con las plataformas de Inteligencia Artificial, centrando nuestro pensamiento en los beneficios de estas tecnolog\u00edas aportan y posicion\u00e1ndolos por sobre los riesgos que acarrea. A veces sin comprender el alcance, permanencia o naturaleza de los datos en los modelos de Inteligencia Artificial<\/strong> utilizados. Podr\u00edamos mencionar varios ejemplos para visualizar diferentes posicionamientos, medidas cautelares y dimensionar el alcance del intercambio de informaci\u00f3n. Sin embargo, uno de los casos emblema podr\u00eda ser el ocurrido con la empresa Samsung.<\/p>\n\n\n\n

\"Se
La informaci\u00f3n vital de la empresa podr\u00eda encontrarse a un ‘copiar y pegar’ de distancia.<\/figcaption><\/figure>\n\n\n\n

Era el a\u00f1o 2023, Samsung tom\u00f3 una decisi\u00f3n crucial: prohibir a sus empleados el uso de ChatGPT<\/strong>. \u00bfLa raz\u00f3n? Empleados hab\u00edan ingresado informaci\u00f3n altamente confidencial, como c\u00f3digo fuente y detalles de productos en desarrollo. Este incidente muestra con claridad la facilidad con la que la propiedad intelectual m\u00e1s valiosa de una empresa puede filtrarse de manera irrevocable hacia un modelo de terceros, fuera de su control.<\/p>\n\n\n\n

El mecanismo de esta exposici\u00f3n de datos se encuentra en la naturaleza del aprendizaje de los grandes modelos de lenguaje (LLM)<\/strong>. Estos modelos no solo procesan la informaci\u00f3n para dar una respuesta, sino que pueden utilizar las entradas de los usuarios para ampliar y refinar sus propios datos de entrenamiento En consecuencia, el c\u00f3digo fuente propietario de Samsung no solo fue expuesto, sino que probablemente se convirti\u00f3 en parte integral del conjunto de datos global de ChatGPT<\/strong>, potencialmente accesible para el aprendizaje futuro del modelo y, por ende, para el p\u00fablico general de forma abstracta.<\/p>\n\n\n\n

Haciendo un an\u00e1lisis de herramientas ampliamente utilizadas, podemos darnos cuenta del patr\u00f3n seguido al colocar la privacidad como una opci\u00f3n asociada a los planes premium<\/strong> o de pago. Por ejemplo en la siguiente tabla enumero las caracter\u00edsticas de varios planes presentes al momento de hacer esta publicaci\u00f3n:<\/p>\n\n\n\n

Plan<\/th>Los datos son usados para entrenamiento del modelo<\/th>Opciones de control de usuario o pol\u00edtica aplicada<\/th><\/tr><\/thead>
Open AI ChatGPT Gratis<\/td>Si<\/td>Exclusi\u00f3n voluntaria disponible.<\/td><\/tr>
Open AI Chat GPT Plan Enterprise <\/td>No<\/td>Aplica su compromiso de seguridad.<\/td><\/tr>
Copilot Chat (Gratuito)<\/td>No<\/td>Las opciones de control dependen de la configuraci\u00f3n de la cuenta de Microsoft y de la privacidad de Windows.<\/td><\/tr>
Microsoft 365 Copilot<\/td>No<\/td>Copilot hereda la configuraci\u00f3n existente de seguridad, cumplimiento y privacidad de Microsoft 365.<\/td><\/tr>
Gemini for Apps (Free y Pro)<\/td>Si<\/td>Por defecto Gemini usa las interacciones para entrenar a su modelo<\/td><\/tr>
Gemini for Google Workspace<\/td>No<\/td>Puede restringir el acceso a datos sensibles con controles de DLP integrados.<\/td><\/tr>
Claude Free y Claude Pro<\/td>No<\/td>Conversaciones de usuarios pueden entrenar el modelo pero \u00fanicamente si el usuario las env\u00eda para dar su opini\u00f3n (feedback), si son marcadas por violar las pol\u00edticas de uso, o si el usuario autoriza expl\u00edcitamente su uso.<\/td><\/tr><\/tbody><\/table>
Tabla comparativa entre planes gratuitos y de pago para distintas plataformas con IA generativa respecto al entrenamiento de sus modelos.<\/figcaption><\/figure>\n\n\n\n

Posibles impactos de compartir informaci\u00f3n clave<\/h3>\n\n\n\n
    \n
  1. Filtraci\u00f3n de informaci\u00f3n confidencial<\/strong>
    Aunque muchas IA no almacenan datos personales de forma permanente, los registros temporales pueden ser accesibles por parte de los desarrolladores del modelo o vulnerables a ataques. Si un modelo de IA es comprometido, los datos previamente compartidos podr\u00edan filtrarse.<\/li>\n\n\n\n
  2. Uso no autorizado de datos para entrenamiento<\/strong>
    Algunas herramientas de IA utilizan las interacciones de los usuarios para mejorar su rendimiento. Sin una adecuada pol\u00edtica de consentimiento, los datos sensibles podr\u00edan acabar siendo parte del conjunto de entrenamiento, lo cual plantea graves dudas \u00e9ticas y legales.<\/li>\n\n\n\n
  3. Incumplimiento normativo<\/strong>
    Para empresas sujetas a normativas como el GDPR en Europa o la LFPDPPP en M\u00e9xico, introducir informaci\u00f3n personal en plataformas de IA sin garant\u00edas claras de privacidad puede derivar en multas y sanciones.<\/li>\n<\/ol>\n\n\n\n

    La preocupaci\u00f3n por la privacidad de los datos en el \u00e1mbito de la Inteligencia Artificial se ve respaldada por recursos como la AI Incident Database<\/strong> (Base de Datos de Incidentes de IA). Esta base de datos documenta y analiza fallos y usos indebidos de sistemas de IA, ofreciendo una perspectiva crucial sobre los riesgos inherentes al compartir informaci\u00f3n sensible. M\u00e1s all\u00e1 del conocido caso de Samsung, donde la introducci\u00f3n de c\u00f3digo fuente confidencial en ChatGPT<\/strong> ilustr\u00f3 la vulnerabilidad de la propiedad intelectual, existen otros incidentes igualmente preocupantes. Por ejemplo, el Incidente 1101 revela c\u00f3mo la aplicaci\u00f3n Meta AI permiti\u00f3 la publicaci\u00f3n inadvertida de chats personales, exponiendo conversaciones privadas de usuarios que no eran conscientes de su naturaleza p\u00fablica. Estos ejemplos subrayan la necesidad de una extrema cautela al interactuar con modelos de IA, comprendiendo a fondo sus pol\u00edticas de privacidad<\/strong> y el destino final de los datos que les confiamos.<\/p>\n\n\n\n

    Shadow AI, un nuevo riesgo empresarial, \u00bfes la prohibici\u00f3n el mejor el camino?<\/h2>\n\n\n\n

    La respuesta corporativa de Samsung ilustra el complejo dilema al que se enfrentan empresas. Inicialmente, la compa\u00f1\u00eda prohibi\u00f3 por completo el uso de ChatGPT<\/strong> a sus empleados. Posteriormente, invirti\u00f3 en el desarrollo de su propia IA interna, denominada “Gauss”. Finalmente, en un intento por equilibrar la necesidad de seguridad con las ganancias de productividad que estas herramientas ofrecen, Samsung decidi\u00f3 relajar la prohibici\u00f3n, pero implementando nuevos y estrictos protocolos de seguridad.<\/p>\n\n\n\n

    \n
    \"Representaci\u00f3n<\/figure>\n\n\n\n
    \n

    De acuerdo con el sitio de IBM, el concepto de Shadow AI<\/strong> o IA en la sombra, se refiere al uso no autorizado de cualquier herramienta de IA por parte de empleados o usuarios finales sin la aprobaci\u00f3n o supervisi\u00f3n formal del departamento de tecnolog\u00eda. En la actualidad la Shadow AI<\/strong> se ha vuelto una problem\u00e1tica bastante com\u00fan<\/p>\n<\/blockquote>\n<\/div>\n\n\n\n

    Quiz\u00e1 una mejor opci\u00f3n a la prohibici\u00f3n completa del uso de estas herramientas para afrontar la problem\u00e1tica sea una regulaci\u00f3n y concientizaci\u00f3n<\/strong> del uso de inteligencias artificiales en las organizaciones as\u00ed como la posibilidad de brindar herramientas que otorguen buenos resultados a nivel productivo y a nivel seguridad.<\/p>\n\n\n\n

    Recomendaciones<\/h2>\n\n\n\n

    Para directores y ejecutivos:<\/strong><\/p>\n\n\n\n