En la literatura es usual encontrar acuerdo, en que un sistema experto o de recomendación debe responder con un nivel comparable a los humanos expertos, pero también debe tener la capacidad de explicar, en una forma entendible por el usuario, el proceso de razonamiento que empleó para resolver el problema y generar una recomendación. En general, cuando un usuario es responsable por la toma de decisiones, normalmente tiende a descartar una recomendación que no entiende completamente.
Por ejemplo, aunque una recomendación efectuada por el sistema sea técnicamente correcta, la pérdida de confianza en ella puede deberse simplemente a que esté basada en alternativas que el usuario no había previsto. El objetivo principal de esta línea de investigación es intentar avanzar sobre el desarrollo de explicaciones que resulten aceptables para el usuario que recibe una recomendación de un sistema.Eje: Agentes y Sistemas InteligentesRed de Universidades con Carreras en Informática (RedUNCI

García, Alejandro Javier

Giulietti, Claudio J.

El Servicio de Difusión de la Creación Intelectual

Explicaciones en Argumentacio´n Rebatible
Claudio J. Giulietti Alejandro J. Garc´ıa †
Laboratorio de Investigacio´n y Desarrollo en Inteligencia Artificial
Departamento de Ciencias e Ingenier´ıa de la Computacio´n, Universidad Nacional del Sur,
† Consejo Nacional de Investigaciones Cient´ıficas y Te´cnicas (CONICET)
Av. Alem 1253, (B8000CPB) Bah´ıa Blanca, Argentina
Tel: (0291) 459-5135 / Fax: (0291) 459-5136
e-mail: cgiulietti@gmail.com ajg@cs.uns.edu.ar
Resumen
En la literatura es usual encontrar acuerdo,
en que un sistema experto o de recomendacio´n
debe responder con un nivel comparable a los
humanos expertos, pero tambie´en debe tener la
capacidad de explicar, en una forma entendi-
ble por el usuario, el proceso de razonamiento
que empleo´ para resolver el problema y gene-
rar una recomendacio´n. En general, cuando un
usuario es responsable por la toma de decisio-
nes, normalmente tiende a descartar una re-
comendacio´n que no entiende completamente.
Por ejemplo, aunque una recomendacio´n efec-
tuada por el sistema sea te´cnicamente correcta,
la pe´rdida de confianza en ella puede deberse
simplemente a que este´ basada en alternativas
que el usuario no hab´ıa previsto. El objetivo
principal de esta l´ınea de investigacio´n es in-
tentar avanzar sobre el desarrollo de explica-
ciones que resulten aceptables para el usuario
que recibe una recomendacio´n de un sistema.
Palabras claves: Explicaciones, argumenta-
cio´n, DeLP.
Contexto
Esta l´ınea de investigacio´n se realizara´ den-
tro del a´mbito del Laboratorio de Investigacio´n
y Desarrollo en Inteligencia Artificial (LIDIA)
del Departamento de Ciencias e Ingenier´ıa de
la Computacio´n de la Universidad Nacional del
Sur. Esta´ asociada con el proyecto de investiga-
cio´n: “Formalismos Argumentativos aplicados
a Sistemas Inteligentes para Toma de Decisio-
nes”. Co´digo: PGI 24/ZN18 financiado por la
Universidad Nacional del Sur, y con el Proyec-
to de Investigacio´n Plurianual, (PIP): “Siste-
mas de Apoyo a la Decisio´n Basados en Ar-
gumentacio´n: formalizacio´n y aplicaciones”, fi-
nanciado por CONICET.
1. Introduccio´n
Una explicacio´n segu´n [9] debe ser “entendi-
ble”, debe permitir “mejorar el conocimiento”,
y debe ser “satisfactoria” en el sentido de cum-
plimentar las expectativas del interlocutor. En
[14] se define una explicacio´n como “una trans-
ferencia de conocimiento de un interlocutor a
otro dentro del contexto de un dia´logo”. De
acuerdo a lo expresado en [12], desde el punto
de vista del disen˜o de las explicaciones, una ex-
plicacio´n “tiene que ser planeada y luego trans-
mitida de una forma apropiada”, es decir una
explicacio´n es un “objeto para ser disen˜ado” y
un “acto comunicativo” a ser logrado.
Dentro de la literatura encontramos una
clasificacio´n generalizada de las explicaciones
[1, 14, 12, 15]. Esta tipolog´ıa responde a que el
concepto de explicacio´n ha sido usado amplia-
mente para referirse a cualquier tipo de reque-
rimiento de informacio´n, por ejemplo, reque-
rimiento de instrucciones de operacio´n, datos,
explicacio´n de te´rminos, realimentacio´n o jus-
1
WICC 2012 93
2012 XIV Workshop de Investigadores en Ciencias de la Computación
tificaco´n de los me´todos de razonamiento o del
asesoramiento brindado. En [15] se expresa que
intentar agrupar bajo el mismo concepto todos
estos distintos requerimientos de informacio´n
no resulta u´til.
En te´rminos generales se especifican 4 tipos
de explicaciones, las cuales se mencionan a
continuacio´n:
1. “Trace Explanation”: en [12] y [1] se de-
fine como una cadena de inferencias que
muestra como fue realizada la derivacio´n,
es decir la secuencia de razonamiento eje-
cutada. En [15], se refiere al registro de los
pasos inferenciales tomados por un siste-
ma experto para alcanzar una conclusio´n.
2. “Strategic Explanation”: [1, 14, 12, 15],
revela la estrategia de resolucio´n de pro-
blemas que posee el sistema para ejecutar
una tarea, es decir como arriba el sistema
a una determinada conclusio´n.
3. “Deep Explanation”: [1, 14], en este tipo
de explicaciones la respuesta ante una con-
sulta se realiza utilizando el conocimiento
del interlocutor, y no so´lo del sistema. El
sistema debe poseer el conocimiento del
interlocutor. Este tipo de explicacio´n se
ajusta a la definicio´n, de transferencia de
conocimiento.
4. “Justification Explanation”: [15], la cual
es una descripccio´n expl´ıcita de la causali-
dad de los argumentos o de la racionalidad
utilizada en la construccio´n de cada paso
inferencial tomado por el sistema experto.
La generacio´n de una “explicacio´n entendi-
ble”, en un sentido amplio, se refiere a una jus-
tificacio´n o explicacio´n coherente solicitada por
el interlocutor. En [14] se indica que una pro-
piedad o caracter´ıstica que deben poseer las
explicaciones, es que deben ser “explicaciones
entendibles”. El agente que actua como inter-
locutor, so´lo posee un conocimiento parcial del
tema en cuestio´n, por lo cual solicita una ex-
plicacio´n, con la esperanza que el agente que
genera la explicacio´n pueda cubrir sus vac´ıos o
gaps de conocimiento.
En [12] se expresa que para que el usario
acepte una explicacio´n, el sistema debe conven-
cerlo que la misma es “relevante, justificada y
u´til”. Para esto el sistema debe explicar como
alcanzo´ la conclusio´n y adema´s indicar cuales
son los argumentos so´lidos (sound arguments)
que soportan esta conclusio´n. Viendo las ex-
plicaciones como un acto comunicativo, para
que sean aceptables, las explicaciones genera-
das por el sistema deben ser “expresivas”, tam-
bie´n deben estar “adaptadas al conocimiento
del usuario”, y deben ser “sensibles” a las ne-
cesidades del usuario.
En [12] se indica como cr´ıtica a los sistemas
actuales de recomendacio´n o apoyo a la deci-
sio´n, que usualmente este tipo de sistemas no
son usados eficientemente por los responsables
en la toma de decisiones debido a una pe´rdi-
da de confianza en la recomendacio´n provista
por el sistema. Adema´s, en [7] se indica que,
en general, cuando un usuario es responsable
por la toma de decisiones, normalmente tiende
a descartar la recomendacio´n que no entien-
de completamente. La pe´rdida de confianza en
el sistema, puede deberse a que la recomenda-
cio´n efectuada por el sistema, si bien puede ser
te´cnicamente aceptable, puede ser inaceptable
para la persona, ya que e´sta puede estar ba-
sada en alternativas que el usuario no hab´ıa
previsto.
Varios autores [2, 10, 11, 13] concuerdan en
que un sistema debe responder a un nivel com-
parable con los humanos expertos, pero tam-
bie´n debe tener la capacidad de explicar, en
una forma entendible por el usuario, el pro-
ceso de razonamiento que empleo´ para resol-
ver el problema y generar una recomendacio´n.
Adema´s [15] agrega que, si bien, la capacidad
de brindar explicaciones es importante en to-
do producto de software, para el caso especial
de los sistemas expertos, es au´n mas impor-
tante, ya que sin ello, los usuarios no estar´ıan
en capacidad de rechazar una recomendacio´n
del sistema cuando este´ equivocado y adicio-
nalmente, sera´n renuentes a la aceptacio´n de
un consejo au´n cuando el sistema este´ acerta-
do en su recomendacio´n.
En [14], se identifican Explicaciones Fallidas
2
WICC 2012 94
2012 XIV Workshop de Investigadores en Ciencias de la Computación
y Explicaciones Exitosas. Se expresa que el mo-
delo conversacional, puede facilitar un contex-
to dentro del cual se puede arribar al e´xito de
una explicacio´n. Los sistemas de explicaciones
deben abordar o plantear distintos tipos de ex-
plicaciones o estrategias para lograr el e´xito en
su objetivo. Actualmente, tampoco se aborda
el tema de calificar o juzgar cuan exitosa es
una explicacio´n ni tampoco el grado de enten-
dimiento que pudo ser transferido al interlocu-
tor. Dada una pareja de agentes que establecen
un dia´logo (en el contexto de las explicaciones)
existe un entendimiento compartido (sharing
understanding), pero tambie´n existen diferen-
tes huecos o vac´ıos (gaps) de entendimiento,
los cuales determinan el e´xito o el fracaso de
la explicacio´n. Es decir se establecen distintos
niveles de conocimiento y de desconocimiento,
que pueden provocar la falla en el intento de
explicar una consulta.
2. L´ıneas de investigacio´n
y desarrollo
El objetivo principal de esta l´ınea de inves-
tigacio´n es intentar avanzar sobre el desarrollo
de explicaciones que resulten aceptables para
el usuario que recibe una recomendacio´n de un
sistema.
En esta l´ınea de investigacio´n nos centrare-
mos, desde el punto de vista general en los
Sistema Argumentativos Basados en Reglas
SABR, y en particular trabajaremos sobre un
Sistema Argumentativo concreto denominado
DeLP (Defeasible Logic Programming) [6]. Los
SABR son formalismos de argumentac´ıon en
los cuales el conocimiento incluye un conjunto
de reglas de inferencia que permiten construir
argumentos a favor o en contra de una afirma-
cio´n. Estos sistemas son de particular intere´s
en el a´rea de Inteligencia Artificial dado que
este tipo de reglas de inferencia permite repre-
sentar conocimiento de sentido comu´n, posibi-
litando la construccio´n de argumentos de ma-
nera automa´tica.
DeLP es un formalismo que combina resul-
tados de programacio´n en lo´gica y argumen-
tacio´n rebatible. Utilizando DeLP es posible
representar informacio´n tentativa de forma de-
clarativa, mediante el uso de reglas ”de´biles”.
Adicionalmente, dado que es posible utilizar
negacio´n estricta en la cabeza de este tipo de
reglas, es posible representar informacio´n con-
tradictoria. En este formalismo se identifican
aquellos elementos en contradiccio´n, y poste-
riormente se lleva a cabo un proceso argumen-
tativo de diale´ctica para determinar cual de
estos elementos prevalecera´.[5]. Este sistema se
encuentra totalmente implementado y disponi-
ble online en [8].
Si bien, existe trabajo preliminar sobre expli-
caciones en DeLP [4, 3], el objetivo principal
de esta l´ınea de investigacio´n, es reformular,
adaptar y expandir este modelo, para lograr
que el nuevo modelo, este´ de comu´n acuerdo
a lo especificado en la literatura y a partir de
all´ı, expandir varios aspectos que detallaremos
mas adelante.
Nuestra l´ınea de investigacio´n esta´ compues-
ta por dos ejes principales: el primer eje se basa
en la adaptacio´n del modelo actual con el fin
de satisfacer y brindar todas las caracter´ısticas
mencionadas en la introduccio´n y que a nues-
tro entender debe brindar una explicacio´n; y el
segundo eje de investigacio´n se basa en expan-
dir determinadas caracter´ısticas del modelo de
explicaciones.
2.1. Primer eje: adaptacio´n
En los trabajos que anteceden a esta investi-
gacio´n [3], en general lo que se interpreta como
explicacio´n, es devolver al interlocutor el con-
junto de a´rboles de diale´ctica generados por
el proceso de razonamiento. Este tipo de res-
puesta, desde el punto de vista del interlocu-
tor, puede no ser satisfactoria, en el caso que el
interlocutor reciba ma´s informacio´n de la que
realmente necesita (por ejemplo envia´ndole to-
do el conjunto de a´rboles de diale´ctica). Esto
har´ıa que la explicacio´n no fuese u´til, y que
tampoco pudiese adaptarse para la integracio´n
adecuada de la informacio´n (transferencia de
conocimiento).
Como primer paso, se establecera´n diferen-
3
WICC 2012 95
2012 XIV Workshop de Investigadores en Ciencias de la Computación
tes niveles en lo que respecta a los tipos de ex-
plicaciones que brindara´ el modelo, las cuales
se indican a continuacio´n: Conjunto de Arbo-
les de Diale´ctica, Arbol de Diale´ctica, L´ınea de
Argumentacio´n y Argumento. Cada uno de es-
tos niveles permite generar distintos tipos de
respuestas de acuerdo a las necesidades del in-
terlocutor. Sobre cada uno de los niveles, se
adaptara´n las siguientes caracter´ısticas o pro-
piedades:
1. Explicacio´n Concisa/Completa: concepto
relacionado con la bu´squeda de argumen-
tos que permiten obtener una garant´ıa pa-
ra la consulta. En general, el me´todo de
razonamiento, una vez que encuentra un
argumento que esta´ garantizado (en caso
de existir) no continua la bu´squeda.
2. Explicacio´n Satisfactoria: concepto rela-
cionado con la capacidad de mostrar en la
explicacio´n generada, los argumentos que
fueron construidos pero no fueron consi-
derados por el algoritmo de razonamiento.
Existen varias causas por la cual el me´to-
do de razonamiento, no considera un argu-
mento, una de las causas es que el argu-
mento puede ser “falaz”, en particular, es
importante a nivel de explicacio´n, poder
tener una visio´n de las falacias que pue-
den producirse en la explicacio´n y porque
no fue considerado ese argumento.
3. Explicacio´n Parcial/Exhaustiva: este con-
cepto esta relacionado con la forma en la
cual se construye un a´rbol de diale´ctica
o a´rbol de razonamiento, dentro del cual
puede optimizarse realizando ”podas”, en
las l´ıneas de argumentacio´n para optimi-
zar la respuesta del sistema, lo cual brinda
mayor rapidez. Esta optimizacio´n esta´ li-
gada directamente al me´todo de bu´squeda
de contra-argumentos para un argumen-
to particular, una vez hallado un contra-
argumento que no es derrotado (garanti-
zado) se detiene la bu´squeda. En la ex-
plicacio´n exhaustiva, se obtendr´ıan todos
los posibles contra-argumentos, y esto per-
mitir´ıa poder presentar la misma explica-
cio´n de distintas formas o soportadas por
argumentos alternativos. Es decir, se dis-
pondr´ıa de la capacidad de brindar la mis-
ma explicacio´n de distintas formas.
4. Explicaciones Justificadas: concepto rela-
cionado con la presentacio´n de argumen-
tos que justifican o sustentan la conclusio´n
garantizada.
2.2. Segundo eje: expansio´n
El segundo eje esta´ basado en investigar co-
mo lograr que un sistema que provee explica-
ciones satisfaga las caracter´ısticas menciona-
das en la literatura y resumidas en la intro-
duccio´n de este trabajo.
En particular se trabajara´ en lograr que el
usario acepte una explicacio´n. Como para ello
el sistema debe convencerlo que la misma es
relevante, justificada y u´til. Entonces se debe
trabajar en buscar que el sistema explique co-
mo alcanzo´ la conclusio´n y que indique cuales
son los argumentos que soportan esta conclu-
sio´n. Se buscara´ definir elementos para lograr
identificar cuando las explicaciones generadas
por el sistema son expresivas o adaptadas al
conocimiento del usuario.
3. Resultados obtenidos y
esperados
Los resultados obtenidos hasta el momento,
debemos indicarlos dependiendo de los dos ejes
principales en que se trabaja en esta investiga-
cio´n.
De la primera l´ınea de investigacio´n, se
han identificado los distintos niveles de ti-
pos de explicaciones, y para cada una de
ellas, se han definido las caracter´ısticas y
formas de generacio´n de las explicaciones,
segu´n sean concisas/completas, satisfactoria,
parcial/exhaustiva y/o justificada.
Con respecto al segundo eje se espera po-
der definir explicaciones que resulten acepta-
bles para el usuario que recibe una recomen-
dacio´n de un sistema.
4
WICC 2012 96
2012 XIV Workshop de Investigadores en Ciencias de la Computación
Referencias
[1] B. Chandrasekaran. Generic task in know-
ledge based reasoning. IEEE Experts,
1(1):23–30, 1986.
[2] R.O. Duda and E.H. Shortliffe. Expert
systems research. Science, (220):261–268,
April 1983.
[3] A.J. Garcia, C.I. Chesn˜evar, N.D. Ros-
tein, and G.R. Simari. Explaining why
something is warranted in defeasible logic
programming. In IJCAI 2009 Workshop
on Explanation aware Computing (Exact
2009), 2009.
[4] A.J. Garcia, N.D. Rostein, and G.R. Si-
mari. Dialectical explanations in defeasi-
ble argumentaqtion. In ECSQARU, pages
295–307, 2007.
[5] Alejandro J. Garc´ıa. Defeasible Logic
Programming: Definition, Operational Se-
mantics and Parallelism. PhD thesis,
Computer Science Department, Universi-
dad Nacional del Sur, Bah´ıa Blanca, Ar-
gentina, December 2000.
[6] Alejandro J. Garc´ıa and Guiller-
mo R. Simari. Defeasible logic
programming: An argumentative ap-
proach. Theory and Practice of Lo-
gic Programming, 4(1):95–138, 2004.
http://xxx.lanl.gov/abs/cs.AI/0302029.
[7] E. Hollnagel. Commentary: Issues in
knowledge-based decision support. In In-
ternational Journal of Man-Machine Stu-
dies, pages 743–751, November/December
1987.
[8] DeLp home Page. web page:
http://lidia.cs.uns.edu.ar/delp. 2007.
[9] C. Lacave and F. Diez. A review of expla-
nation methods for heuristic expert sys-
tems. The Knowledge Engineering Re-
view, 0(0):1–13, 2005. Cambridge Univer-
sity Press.
[10] J.D. Moore and W.R. Swartout. Expla-
nation in expert systems: A survey. In
Information Sciences Institute. ISI Re-
search, editor, Report, RR-88-228., pages
345–353. University of Southern Califor-
nia, Los Angeles, CA, 1988, 1988.
[11] J.D. Moore and W.R. Swartout. A reac-
tive approach to explanation. In Procee-
dings of the Eleventh Intemational Joint
Conference on Artificial Intelligence, De-
troit, Ml, aug 1989.
[12] B. Moulin, H. Irandoust, M. Belnger, and
G. Desbordes. Explanation and argu-
mentation capabilities: Towards the crea-
tion of more persuasive agents. Ar-
tificial Intelligence Review, 17:169–222,
2002. ISSN 1386-9795 print/1741-5918
online/04/010071-19.
[13] R.L. Teach and E.H. Shortliffe. An analy-
sis of physicians’ attitudes. Computers
in Biomedical Research, (14):542–558, De-
cember 1981.
[14] Douglas Walton. A new dialectical
theory of explanation. Philosophical Ex-
plorations, 7(1), 2004. ISSN 1386-9795
print/1741-5918 online/04/010071-19.
[15] L. Richard Ye and Paul E. Johnson. The
impact of explanation facilities on user
aceptance of expert systems advice. MIS
Quarterly, June 1995.
5
WICC 2012 97
2012 XIV Workshop de Investigadores en Ciencias de la Computación


Spanish

Explicaciones en argumentación rebatible

Servicio de Difusión de la Creación Intelectual

Explicaciones en Argumentacio´n RebatibleClaudio J. Giulietti Alejandro J. Garc´ıa †Laboratorio de Investigacio´n y Desarrollo en Inteligencia ArtificialDepartamento de Ciencias e Ingenier´ıa de la Computacio´n, Universidad Nacional del Sur,† Consejo Nacional de Investigaciones Cient´ıficas y Te´cnicas (CONICET)Av. Alem 1253, (B8000CPB) Bah´ıa Blanca, ArgentinaTel: (0291) 459-5135 / Fax: (0291) 459-5136e-mail: cgiulietti@gmail.com ajg@cs.uns.edu.arResumenEn la literatura es usual encontrar acuerdo,en que un sistema experto o de recomendacio´ndebe responder con un nivel comparable a loshumanos expertos, pero tambie´en debe tener lacapacidad de explicar, en una forma entendi-ble por el usuario, el proceso de razonamientoque empleo´ para resolver el problema y gene-rar una recomendacio´n. En general, cuando unusuario es responsable por la toma de decisio-nes, normalmente tiende a descartar una re-comendacio´n que no entiende completamente.Por ejemplo, aunque una recomendacio´n efec-tuada por el sistema sea te´cnicamente correcta,la pe´rdida de confianza en ella puede debersesimplemente a que este´ basada en alternativasque el usuario no hab´ıa previsto. El objetivoprincipal de esta l´ınea de investigacio´n es in-tentar avanzar sobre el desarrollo de explica-ciones que resulten aceptables para el usuarioque recibe una recomendacio´n de un sistema.Palabras claves: Explicaciones, argumenta-cio´n, DeLP.ContextoEsta l´ınea de investigacio´n se realizara´ den-tro del a´mbito del Laboratorio de Investigacio´ny Desarrollo en Inteligencia Artificial (LIDIA)del Departamento de Ciencias e Ingenier´ıa dela Computacio´n de la Universidad Nacional delSur. Esta´ asociada con el proyecto de investiga-cio´n: “Formalismos Argumentativos aplicadosa Sistemas Inteligentes para Toma de Decisio-nes”. Co´digo: PGI 24/ZN18 financiado por laUniversidad Nacional del Sur, y con el Proyec-to de Investigacio´n Plurianual, (PIP): “Siste-mas de Apoyo a la Decisio´n Basados en Ar-gumentacio´n: formalizacio´n y aplicaciones”, fi-nanciado por CONICET.1. Introduccio´nUna explicacio´n segu´n [9] debe ser “entendi-ble”, debe permitir “mejorar el conocimiento”,y debe ser “satisfactoria” en el sentido de cum-plimentar las expectativas del interlocutor. En[14] se define una explicacio´n como “una trans-ferencia de conocimiento de un interlocutor aotro dentro del contexto de un dia´logo”. Deacuerdo a lo expresado en [12], desde el puntode vista del disen˜o de las explicaciones, una ex-plicacio´n “tiene que ser planeada y luego trans-mitida de una forma apropiada”, es decir unaexplicacio´n es un “objeto para ser disen˜ado” yun “acto comunicativo” a ser logrado.Dentro de la literatura encontramos unaclasificacio´n generalizada de las explicaciones[1, 14, 12, 15]. Esta tipolog´ıa responde a que elconcepto de explicacio´n ha sido usado amplia-mente para referirse a cualquier tipo de reque-rimiento de informacio´n, por ejemplo, reque-rimiento de instrucciones de operacio´n, datos,explicacio´n de te´rminos, realimentacio´n o jus-1WICC 2012 932012 XIV Workshop de Investigadores en Ciencias de la Computacióntificaco´n de los me´todos de razonamiento o delasesoramiento brindado. En [15] se expresa queintentar agrupar bajo el mismo concepto todosestos distintos requerimientos de informacio´nno resulta u´til.En te´rminos generales se especifican 4 tiposde explicaciones, las cuales se mencionan acontinuacio´n:1. “Trace Explanation”: en [12] y [1] se de-fine como una cadena de inferencias quemuestra como fue realizada la derivacio´n,es decir la secuencia de razonamiento eje-cutada. En [15], se refiere al registro de lospasos inferenciales tomados por un siste-ma experto para alcanzar una conclusio´n.2. “Strategic Explanation”: [1, 14, 12, 15],revela la estrategia de resolucio´n de pro-blemas que posee el sistema para ejecutaruna tarea, es decir como arriba el sistemaa una determinada conclusio´n.3. “Deep Explanation”: [1, 14], en este tipode explicaciones la respuesta ante una con-sulta se realiza utilizando el conocimientodel interlocutor, y no so´lo del sistema. Elsistema debe poseer el conocimiento delinterlocutor. Este tipo de explicacio´n seajusta a la definicio´n, de transferencia deconocimiento.4. “Justification Explanation”: [15], la cuales una descripccio´n expl´ıcita de la causali-dad de los argumentos o de la racionalidadutilizada en la construccio´n de cada pasoinferencial tomado por el sistema experto.La generacio´n de una “explicacio´n entendi-ble”, en un sentido amplio, se refiere a una jus-tificacio´n o explicacio´n coherente solicitada porel interlocutor. En [14] se indica que una pro-piedad o caracter´ıstica que deben poseer lasexplicaciones, es que deben ser “explicacionesentendibles”. El agente que actua como inter-locutor, so´lo posee un conocimiento parcial deltema en cuestio´n, por lo cual solicita una ex-plicacio´n, con la esperanza que el agente quegenera la explicacio´n pueda cubrir sus vac´ıos ogaps de conocimiento.En [12] se expresa que para que el usarioacepte una explicacio´n, el sistema debe conven-cerlo que la misma es “relevante, justificada yu´til”. Para esto el sistema debe explicar comoalcanzo´ la conclusio´n y adema´s indicar cualesson los argumentos so´lidos (sound arguments)que soportan esta conclusio´n. Viendo las ex-plicaciones como un acto comunicativo, paraque sean aceptables, las explicaciones genera-das por el sistema deben ser “expresivas”, tam-bie´n deben estar “adaptadas al conocimientodel usuario”, y deben ser “sensibles” a las ne-cesidades del usuario.En [12] se indica como cr´ıtica a los sistemasactuales de recomendacio´n o apoyo a la deci-sio´n, que usualmente este tipo de sistemas noson usados eficientemente por los responsablesen la toma de decisiones debido a una pe´rdi-da de confianza en la recomendacio´n provistapor el sistema. Adema´s, en [7] se indica que,en general, cuando un usuario es responsablepor la toma de decisiones, normalmente tiendea descartar la recomendacio´n que no entien-de completamente. La pe´rdida de confianza enel sistema, puede deberse a que la recomenda-cio´n efectuada por el sistema, si bien puede serte´cnicamente aceptable, puede ser inaceptablepara la persona, ya que e´sta puede estar ba-sada en alternativas que el usuario no hab´ıaprevisto.Varios autores [2, 10, 11, 13] concuerdan enque un sistema debe responder a un nivel com-parable con los humanos expertos, pero tam-bie´n debe tener la capacidad de explicar, enuna forma entendible por el usuario, el pro-ceso de razonamiento que empleo´ para resol-ver el problema y generar una recomendacio´n.Adema´s [15] agrega que, si bien, la capacidadde brindar explicaciones es importante en to-do producto de software, para el caso especialde los sistemas expertos, es au´n mas impor-tante, ya que sin ello, los usuarios no estar´ıanen capacidad de rechazar una recomendacio´ndel sistema cuando este´ equivocado y adicio-nalmente, sera´n renuentes a la aceptacio´n deun consejo au´n cuando el sistema este´ acerta-do en su recomendacio´n.En [14], se identifican Explicaciones Fallidas2WICC 2012 942012 XIV Workshop de Investigadores en Ciencias de la Computacióny Explicaciones Exitosas. Se expresa que el mo-delo conversacional, puede facilitar un contex-to dentro del cual se puede arribar al e´xito deuna explicacio´n. Los sistemas de explicacionesdeben abordar o plantear distintos tipos de ex-plicaciones o estrategias para lograr el e´xito ensu objetivo. Actualmente, tampoco se abordael tema de calificar o juzgar cuan exitosa esuna explicacio´n ni tampoco el grado de enten-dimiento que pudo ser transferido al interlocu-tor. Dada una pareja de agentes que establecenun dia´logo (en el contexto de las explicaciones)existe un entendimiento compartido (sharingunderstanding), pero tambie´n existen diferen-tes huecos o vac´ıos (gaps) de entendimiento,los cuales determinan el e´xito o el fracaso dela explicacio´n. Es decir se establecen distintosniveles de conocimiento y de desconocimiento,que pueden provocar la falla en el intento deexplicar una consulta.2. L´ıneas de investigacio´ny desarrolloEl objetivo principal de esta l´ınea de inves-tigacio´n es intentar avanzar sobre el desarrollode explicaciones que resulten aceptables parael usuario que recibe una recomendacio´n de unsistema.En esta l´ınea de investigacio´n nos centrare-mos, desde el punto de vista general en losSistema Argumentativos Basados en ReglasSABR, y en particular trabajaremos sobre unSistema Argumentativo concreto denominadoDeLP (Defeasible Logic Programming) [6]. LosSABR son formalismos de argumentac´ıon enlos cuales el conocimiento incluye un conjuntode reglas de inferencia que permiten construirargumentos a favor o en contra de una afirma-cio´n. Estos sistemas son de particular intere´sen el a´rea de Inteligencia Artificial dado queeste tipo de reglas de inferencia permite repre-sentar conocimiento de sentido comu´n, posibi-litando la construccio´n de argumentos de ma-nera automa´tica.DeLP es un formalismo que combina resul-tados de programacio´n en lo´gica y argumen-tacio´n rebatible. Utilizando DeLP es posiblerepresentar informacio´n tentativa de forma de-clarativa, mediante el uso de reglas ”de´biles”.Adicionalmente, dado que es posible utilizarnegacio´n estricta en la cabeza de este tipo dereglas, es posible representar informacio´n con-tradictoria. En este formalismo se identificanaquellos elementos en contradiccio´n, y poste-riormente se lleva a cabo un proceso argumen-tativo de diale´ctica para determinar cual deestos elementos prevalecera´.[5]. Este sistema seencuentra totalmente implementado y disponi-ble online en [8].Si bien, existe trabajo preliminar sobre expli-caciones en DeLP [4, 3], el objetivo principalde esta l´ınea de investigacio´n, es reformular,adaptar y expandir este modelo, para lograrque el nuevo modelo, este´ de comu´n acuerdoa lo especificado en la literatura y a partir deall´ı, expandir varios aspectos que detallaremosmas adelante.Nuestra l´ınea de investigacio´n esta´ compues-ta por dos ejes principales: el primer eje se basaen la adaptacio´n del modelo actual con el finde satisfacer y brindar todas las caracter´ısticasmencionadas en la introduccio´n y que a nues-tro entender debe brindar una explicacio´n; y elsegundo eje de investigacio´n se basa en expan-dir determinadas caracter´ısticas del modelo deexplicaciones.2.1. Primer eje: adaptacio´nEn los trabajos que anteceden a esta investi-gacio´n [3], en general lo que se interpreta comoexplicacio´n, es devolver al interlocutor el con-junto de a´rboles de diale´ctica generados porel proceso de razonamiento. Este tipo de res-puesta, desde el punto de vista del interlocu-tor, puede no ser satisfactoria, en el caso que elinterlocutor reciba ma´s informacio´n de la querealmente necesita (por ejemplo envia´ndole to-do el conjunto de a´rboles de diale´ctica). Estohar´ıa que la explicacio´n no fuese u´til, y quetampoco pudiese adaptarse para la integracio´nadecuada de la informacio´n (transferencia deconocimiento).Como primer paso, se establecera´n diferen-3WICC 2012 952012 XIV Workshop de Investigadores en Ciencias de la Computacióntes niveles en lo que respecta a los tipos de ex-plicaciones que brindara´ el modelo, las cualesse indican a continuacio´n: Conjunto de Arbo-les de Diale´ctica, Arbol de Diale´ctica, L´ınea deArgumentacio´n y Argumento. Cada uno de es-tos niveles permite generar distintos tipos derespuestas de acuerdo a las necesidades del in-terlocutor. Sobre cada uno de los niveles, seadaptara´n las siguientes caracter´ısticas o pro-piedades:1. Explicacio´n Concisa/Completa: conceptorelacionado con la bu´squeda de argumen-tos que permiten obtener una garant´ıa pa-ra la consulta. En general, el me´todo derazonamiento, una vez que encuentra unargumento que esta´ garantizado (en casode existir) no continua la bu´squeda.2. Explicacio´n Satisfactoria: concepto rela-cionado con la capacidad de mostrar en laexplicacio´n generada, los argumentos quefueron construidos pero no fueron consi-derados por el algoritmo de razonamiento.Existen varias causas por la cual el me´to-do de razonamiento, no considera un argu-mento, una de las causas es que el argu-mento puede ser “falaz”, en particular, esimportante a nivel de explicacio´n, podertener una visio´n de las falacias que pue-den producirse en la explicacio´n y porqueno fue considerado ese argumento.3. Explicacio´n Parcial/Exhaustiva: este con-cepto esta relacionado con la forma en lacual se construye un a´rbol de diale´cticao a´rbol de razonamiento, dentro del cualpuede optimizarse realizando ”podas”, enlas l´ıneas de argumentacio´n para optimi-zar la respuesta del sistema, lo cual brindamayor rapidez. Esta optimizacio´n esta´ li-gada directamente al me´todo de bu´squedade contra-argumentos para un argumen-to particular, una vez hallado un contra-argumento que no es derrotado (garanti-zado) se detiene la bu´squeda. En la ex-plicacio´n exhaustiva, se obtendr´ıan todoslos posibles contra-argumentos, y esto per-mitir´ıa poder presentar la misma explica-cio´n de distintas formas o soportadas porargumentos alternativos. Es decir, se dis-pondr´ıa de la capacidad de brindar la mis-ma explicacio´n de distintas formas.4. Explicaciones Justificadas: concepto rela-cionado con la presentacio´n de argumen-tos que justifican o sustentan la conclusio´ngarantizada.2.2. Segundo eje: expansio´nEl segundo eje esta´ basado en investigar co-mo lograr que un sistema que provee explica-ciones satisfaga las caracter´ısticas menciona-das en la literatura y resumidas en la intro-duccio´n de este trabajo.En particular se trabajara´ en lograr que elusario acepte una explicacio´n. Como para elloel sistema debe convencerlo que la misma esrelevante, justificada y u´til. Entonces se debetrabajar en buscar que el sistema explique co-mo alcanzo´ la conclusio´n y que indique cualesson los argumentos que soportan esta conclu-sio´n. Se buscara´ definir elementos para lograridentificar cuando las explicaciones generadaspor el sistema son expresivas o adaptadas alconocimiento del usuario.3. Resultados obtenidos yesperadosLos resultados obtenidos hasta el momento,debemos indicarlos dependiendo de los dos ejesprincipales en que se trabaja en esta investiga-cio´n.De la primera l´ınea de investigacio´n, sehan identificado los distintos niveles de ti-pos de explicaciones, y para cada una deellas, se han definido las caracter´ısticas yformas de generacio´n de las explicaciones,segu´n sean concisas/completas, satisfactoria,parcial/exhaustiva y/o justificada.Con respecto al segundo eje se espera po-der definir explicaciones que resulten acepta-bles para el usuario que recibe una recomen-dacio´n de un sistema.4WICC 2012 962012 XIV Workshop de Investigadores en Ciencias de la ComputaciónReferencias[1] B. Chandrasekaran. Generic task in know-ledge based reasoning. IEEE Experts,1(1):23–30, 1986.[2] R.O. Duda and E.H. Shortliffe. Expertsystems research. Science, (220):261–268,April 1983.[3] A.J. Garcia, C.I. Chesn˜evar, N.D. Ros-tein, and G.R. Simari. Explaining whysomething is warranted in defeasible logicprogramming. In IJCAI 2009 Workshopon Explanation aware Computing (Exact2009), 2009.[4] A.J. Garcia, N.D. Rostein, and G.R. Si-mari. Dialectical explanations in defeasi-ble argumentaqtion. In ECSQARU, pages295–307, 2007.[5] Alejandro J. Garc´ıa. Defeasible LogicProgramming: Definition, Operational Se-mantics and Parallelism. PhD thesis,Computer Science Department, Universi-dad Nacional del Sur, Bah´ıa Blanca, Ar-gentina, December 2000.[6] Alejandro J. Garc´ıa and Guiller-mo R. Simari. Defeasible logicprogramming: An argumentative ap-proach. Theory and Practice of Lo-gic Programming, 4(1):95–138, 2004.http://xxx.lanl.gov/abs/cs.AI/0302029.[7] E. Hollnagel. Commentary: Issues inknowledge-based decision support. In In-ternational Journal of Man-Machine Stu-dies, pages 743–751, November/December1987.[8] DeLp home Page. web page:http://lidia.cs.uns.edu.ar/delp. 2007.[9] C. Lacave and F. Diez. A review of expla-nation methods for heuristic expert sys-tems. The Knowledge Engineering Re-view, 0(0):1–13, 2005. Cambridge Univer-sity Press.[10] J.D. Moore and W.R. Swartout. Expla-nation in expert systems: A survey. InInformation Sciences Institute. ISI Re-search, editor, Report, RR-88-228., pages345–353. University of Southern Califor-nia, Los Angeles, CA, 1988, 1988.[11] J.D. Moore and W.R. Swartout. A reac-tive approach to explanation. In Procee-dings of the Eleventh Intemational JointConference on Artificial Intelligence, De-troit, Ml, aug 1989.[12] B. Moulin, H. Irandoust, M. Belnger, andG. Desbordes. Explanation and argu-mentation capabilities: Towards the crea-tion of more persuasive agents. Ar-tificial Intelligence Review, 17:169–222,2002. ISSN 1386-9795 print/1741-5918online/04/010071-19.[13] R.L. Teach and E.H. Shortliffe. An analy-sis of physicians’ attitudes. Computersin Biomedical Research, (14):542–558, De-cember 1981.[14] Douglas Walton. A new dialecticaltheory of explanation. Philosophical Ex-plorations, 7(1), 2004. ISSN 1386-9795print/1741-5918 online/04/010071-19.[15] L. Richard Ye and Paul E. Johnson. Theimpact of explanation facilities on useraceptance of expert systems advice. MISQuarterly, June 1995.5WICC 2012 972012 XIV Workshop de Investigadores en Ciencias de la Computación

SEDICI - Repositorio de la UNLP

http://sedici.unlp.edu.ar/bitstream/handle/10915/18388/Documento_completo.pdf?sequence=1

Explicaciones en argumentación rebatible

Abstract

Similar works

Full text

Available Versions

El Servicio de Difusión de la Creación Intelectual

Servicio de Difusión de la Creación Intelectual

SEDICI - Repositorio de la UNLP