Territori 17: Machine learning and ethics

L’aprenentatge automàtic és una branca de la intel·ligència artificial en què es basen aplicacions com el ChatGPT. Ariadna Font, referent internacional en l’aprenentatge automàtic i l’ètica, ens parla de les possibles aplicacions d’aquestes noves tecnologies i dels reptes ètics que ens plantegen.

 

L’eclosió de la intel·ligència artificial a través d’aplicacions com el ChatGPT, desenvolupada per OpenAI, està canviant les nostres vides i revolucionant moltes feines. L’evolució de l’aprenentatge automàtic, o ‘machine learning’, té com a objectiu desenvolupar algoritmes i sistemes que puguin aprendre i fer prediccions a partir de dades o de la interacció amb els usuaris. “Permet als sistemes informàtics millorar automàticament el seu rendiment en una tasca específica a través de l’experiència”, apunta Font.

Aquesta tecnologia està sent utilitzada en diversos àmbits com ara la salut, la seguretat, el comerç, la robòtica o la indústria, per automatitzar processos, fer operacions financeres, detecció de frau o pel diagnòstic de malalties. Això no obstant, el seu ús també planteja una sèrie de reptes ètics que són importants de considerar.

Conseqüències no desitjades

Si els algoritmes estan entrenats amb dades que reflecteixen els prejudicis i les desigualtats de la societat, els resultats poden ser injustos per a certes persones o grups, i poden conduir a la discriminació. Això és especialment preocupant en contextos com el de la selecció de personal, l’aplicació de la llei i la concessió de préstecs, on la discriminació pot tenir un impacte significatiu. Com explica Font, “els models de ‘machine learning’ poden prendre decisions importants que afecten les nostres vides, per tant, és molt important considerar quins efectes aquestes decisions tenen sobre nosaltres”.

Per altra banda, l’aprenentatge automàtic pot posar en risc la privacitat i la seguretat de les persones. Per exemple, les dades que s’utilitzen per entrenar els algoritmes poden contenir informació mèdica personal i sensible, i si no són protegides adequadament, poden ser robades o utilitzades indegudament. 

Per abordar aquests reptes ètics, és important que els dissenyadors i desenvolupadors d’aquesta tecnologia adoptin una perspectiva ètica i pensin en les implicacions que pot tenir per a les persones i la societat en general. L’adopció de pràctiques de protecció de la privadesa, la consideració de la justícia i la igualtat en la selecció de dades o l’adopció de pràctiques de transparència seran essencials per assegurar que la part ètica i humana no es perdi amb la implantació de la intel·ligència artificial.

 

11Onze és la fintech comunitària de Catalunya. Obre un compte descarregant la super app El Canut per Android o iOS. Uneix-te a la revolució!

Si t'ha agradat aquesta notícia, et recomanem:

Tecnologia

L’eclosió del ChatGPT

3 min read

Ha entrat amb força per revolucionar la manera en què les persones interactuen.

Tecnologia

Tendències tecnològiques 2023

4 min read

Fer realitat el progrés econòmic, social i mediambiental.

Economia

Algoritmes

3 min read

L’automatització del treball està creant una metamorfosi ocupacional.



Equip Editorial Equip Editorial
  1. Joan Santacruz CarlúsJoan Santacruz Carlús says:
  2. Jordi MorenoJordi Moreno says:
    Jordi

    Gràcies per l’explicació

  3. Manuel Bullich BuenoManuel Bullich Bueno says:

Leave a Reply

App Store Google Play