Intel·ligència Artificial Responsable

Esteu aquí

Inici » Estudis » Màsters » Màster en Intel·ligència Artificial » Pla d'estudis » Assignatures » Intel·ligència Artificial Responsable
Crèdits
3
Tipus
Optativa
Requisits
Aquesta assignatura no té requisits, però té capacitats prèvies
Departament
CS
Mail
El seminari d'IA Responsable (RAI) està dissenyat per capacitar els estudiants de màster amb els coneixements i les habilitats necessàries per investigar, identificar i promoure tècniques responsables d'Intel·ligència Artificial per a aplicacions industrials, alhora que garanteix que aquestes tecnologies es desenvolupin i implementin d'una manera alineada amb els valors europeus, els drets fonamentals i els marcs reguladors més recents.

Aquest curs posa un fort èmfasi en l'enfocament de la UE envers la Intel·ligència Artificial, que es basa en els principis d'excel·lència, confiança i respecte pels drets humans. Els participants exploraran les implicacions ètiques, legals, econòmiques, de gènere i socials dels sistemes basats en IA, guiats pels valors fonamentals consagrats en el marc ELSEC de la UE (Ètic, Legal, Social, Econòmic i Cultural), la Carta Europea dels Drets Fonamentals i els requisits de la Llei d'IA.


Els temes clau que s'aborden inclouen:

Els principis i estàndards ètics que han de guiar la recerca i el desenvolupament de la IA inclouen la transparència, la justícia, la no-discriminació, la protecció de dades i la supervisió humana. L'enfocament basat en el risc de la Llei d'IA, que classifica els sistemes d'IA segons el seu impacte potencial en la seguretat i els drets fonamentals, imposa obligacions estrictes per a les aplicacions d'alt risc, incloent-hi l'avaluació de riscos, la mitigació i les avaluacions d'impacte sobre els drets fonamentals.
La importància de dissenyar una IA centrada en les persones i fiable rau a garantir que els sistemes d'IA siguin explicables, robustos i respectin la dignitat i l'autonomia de totes les persones.
La integració dels valors socials en els sistemes basats en IA i els reptes d'integrar el raonament ètic i la responsabilitat en la presa de decisions automatitzada.
Les responsabilitats dels desenvolupadors, implementadors i altres parts interessades d'IA són garantir que les tecnologies basades en IA beneficiïn la societat alhora que minimitzen els riscos i prevenen els danys.
El context social i regulador més ampli inclou la promoció d'enfocaments interdisciplinaris que combinen tècniques responsables basades en IA amb altres camps científics i industrials per abordar reptes complexos en sectors com la salut, l'educació i la sostenibilitat ambiental.
Al final del seminari, els participants tindran una comprensió completa de com desenvolupar i aplicar la IA de maneres que no només siguin innovadores i efectives, sinó que també compleixin les regulacions de la UE, respectin els drets humans i donin suport als valors democràtics. Aquest curs té com a objectiu formar una nova generació de professionals de la IA que estiguin equipats per liderar en un panorama tecnològic en ràpida evolució, tot mantenint els més alts estàndards de responsabilitat i integritat.

Professorat

Responsable

  • Ulises Cortés García ( )

Hores setmanals

Teoria
2
Problemes
0
Laboratori
0
Aprenentatge dirigit
0
Aprenentatge autònom
3.77

Objectius

  1. Identificar las tecnologías, herramientas, arquitecturas y algoritmos de IA más adecuados para aplicaciones industriales, garantizando que estas soluciones respeten rigurosamente los principios de la Inteligencia Artificial Responsable, incluida la ética, la transparencia, la equidad, la responsabilidad y cumplan plenamente con los requisitos legales, las normas sociales y los estándares de igualdad de género.
    Competències relacionades: CG1, CEP3, CT1, CT2, CT4, CT6,
  2. Poder desenvolupar un conjunt de criteris per al desenvolupament d'aplicacions d'IA, i avaluar cadascuna de les aplicacions identificades pel que fa a aquests criteris
    Competències relacionades: CG1, CEP4, CEP5, CEP7,
  3. Formular recomanacions ètiques a curt i llarg termini per el desenvolupament de aplicacions industrials de l'ntel.ligència Artificial i el treball en un equip multidisciplinari
    Competències relacionades: CG1, CEP7, CEP8, CT3, CT6,

Continguts

  1. IA responsable
    Aquesta part del seminari introdueix els principis fonamentals de la IA responsable, emfatitzant les consideracions ètiques i l'ús responsable de les tecnologies d'IA en totes les indústries. Explora temes clau com la justícia, la transparència, la responsabilitat i el compliment de les normes legals i socials, i dota els participants de les eines per dissenyar i implementar sistemes basats en IA que respectin els drets humans i promoguin la confiança de los usaris i institucions.
  2. Cara a cara amb les aplicacions industrials d'intel·ligència artificial
    Les tecnologies basades en la IA estan transformant el panorama empresarial, amb aplicacions que abasten la gestió, l'administració, la ciència, l'enginyeria, la fabricació, les finances, el dret, la defensa, l'exploració espacial, la medicina i el diagnòstic. Els alts directius confien cada cop més en eines de planificació estratègica basades en la IA per a l'anàlisi competitiva, el desplegament de tecnologia i l'assignació de recursos. La IA també dóna suport a la configuració d'equips, la distribució de productes, el compliment normatiu i l'avaluació de personal, millorant significativament la planificació organitzativa i el control operatiu. A mesura que les tecnologies de la IA continuen evolucionant, la seva influència en la ciència i l'enginyeria continua creixent encara més.

    En aquest segment del seminari, els estudiants examinaran críticament les aplicacions de la IA controvertides o èticament qüestionables que s'utilitzen actualment en diverses indústries, fomentant una comprensió més profunda tant del potencial com dels reptes de la IA en contextos empresarials.
  3. Introducció als Drets Humans.
    Aquesta part del seminari introdueix la relació entre els drets humans i la intel·ligència artificial, destacant com el desenvolupament ètic de la IA ha de prioritzar la dignitat, la justícia, la privadesa i la responsabilitat per garantir que la tecnologia beneficiï tothom i protegeixi les llibertats fonamentals.

Activitats

Activitat Acte avaluatiu


Exemples d'Aplicacions Industrials de la Intel·ligència Artificial provinent de la R + D

Les aplicacions de l'intel·ligència artificial desenvolupades per la ciència i l'enginyeria s'utilitzen per organitzar i manipular les quantitats cada vegada majors d'informació a disposició de cientí­fics i enginyers. La Intel·ligència Artificial s'utilitza en processos complexos i és l'augment de l'ús de la robòtica en els negocis. En aquesta part del seminari s'estudiaran les aplicacions avançades de l'intel·ligència artificial nascudes com a I+D dels resultats. La majoria dels exemples provenen de la investigació financiada per la Unió Europea.
  • Teoria: Cadascun dels casos d'estudi disposarà d'un material que es facilitarà amb antelació. L'estudiant ha de llegir-lo per poder discutir els seus continguts. A més, l'alumne ha de preparar un paper de cadascun d'ells. Els estudiants hauran de triar un dels casos d'estudi i preparar un treball més detallat.
Objectius: 1 3 2
Continguts:
Teoria
18h
Problemes
0h
Laboratori
0h
Aprenentatge dirigit
0h
Aprenentatge autònom
25h

Introducció

L'estudiant aprendrà els objectius d'aquest seminari. Rebrà els materials i aprendrà el calendari d'activitats.

Continguts:
Teoria
6h
Problemes
0h
Laboratori
0h
Aprenentatge dirigit
0h
Aprenentatge autònom
28h

Metodologia docent

Hi haurà oradors convidats de la indústria i almenys de 4 fins a 7 de casos d'estudi d'aplicacions industrials de l'intel·ligència artificial.
El format del curs serà  un seminari amb tasques directes de participació i presentació d'informes

Mètode d'avaluació

Els participants lliuraran un parell dassaigs durant el curs. Hi haurà una sola nota per als assaigs i l'examen final. L'examen final comptarà amb un 60% de la nota.

Bibliografia

Bàsica:

Complementaria:

Capacitats prèvies

Es requereix que l'estudiant tingui coneixements en:

* Els processos per al desenvolupament de sistemes de programari grans i complexes
* Les funcions i tecnologies per ajudar a controlar aquest tipus de projectes
* Problemes d'investigació de nivell en àrees com l'enginyeria de programari, sistemes d'informació, models de simulació, mitjans digitals i jocs, computació en xarxa i la intel·ligència artificial.