Slide 1

Report
Unidad IV. Probabilidad
Matemáticas para Computación
Dr. Felipe Orihuela-Espina
Contenidos
Como lo indica el temario
 Conjuntos (1h)
 uniones, intersecciones,
substracciones, etc
 Números combinatorios
En el orden en que lo vamos
a ver
 Definiciones iniciales

 Eventos y espacios de


probabilidad, (1h)
Variables aleatorias (en 1
y n dimensiones) (1h)
Probabilidad condicional
(1h)
 inc. Bayes, independencia
20/07/2015



INAOE









Probabilidad e incertidumbre
Variables aleatorias
Espacios de probabilidad
Conjuntos
uniones, intersecciones,
substracciones, etc),
Espacios de muestra
Eventos
Probabilidad básica
De un evento
De varios eventos
Números combinatorios
Probabilidad condicional
inc. Bayes, independencia
2
Probabilidad: Definición formal
 Probabilidad (en un proceso estocástico)
es la razón entre el número de casos
favorables y el número de casos posibles
20/07/2015
INAOE
3
Lecturas recomendadas y otros recursos
 Cap. 1 y 2 de DeGroot, M- H. y Schervish, M.-J. Probability
and Statistics. 4a Ed. 2012
 Glosario de estadística de la Universidad de Glasgow.
 http://www.stats.gla.ac.uk/steps/glossary/probability.html
 Wolfram World of Maths
 http://mathworld.wolfram.com/
 Philip B Stark. SticiGUI, University of California, Berkeley
 http://stat-www.berkeley.edu/~stark/SticiGui/index.htm
 Incluye muchos ejercicios con sus soluciones.
 Salazar González, JJ y López Yurda, M. Ejercicios Resueltos
de Probabilidad. Universidad de La Laguna (España)
 http://jjsalaza.webs.ull.es/curriculum/books/GOBCAN02.pdf
20/07/2015
INAOE
4
Otros recursos

MIT Course on Probability and Statisitcs
 http://ocw.mit.edu/courses/mathematics/18-05-introduction-to-probability-and-statistics-spring-2005/

MIT Course on Foundamentals of Probability
 http://ocw.mit.edu/courses/electrical-engineering-and-computer-science/6-436j-fundamentals-ofprobability-fall-2008/

Grinstead, CM and Snell, JL “Introduction to Probability”
 http://www.dartmouth.edu/~chance/teaching_aids/books_articles/probability_book/book.html
 El libro completo está gratuito en formato .pdf
 Las soluciones a los problemas impares están disponibles.

Electronic Statistics Textbook
 http://www.statsoft.com/textbook/

StatSci.org
 http://www.statsci.org/teaching.html

Making sense of statistics
 http://nichcy.org/research/basics/makingsense
20/07/2015
INAOE
5
Aprendiendo a contar
DEFINICIONES INICIALES
20/07/2015
INAOE
6
Algunas definiciones
(más o menos informales)
 Determinista: Consecuencia inevitable (dados unos
antecedentes) [The American Heritage Dictionary of
the English Language]
 Aleatorio: Algo carente de un patrón, no predecible, o
controlable; perteneciente a la suerte o azar.
 Aleatorio y estocástico son sinónimos
 Un valor aleatorio es un valor elegido al azar
 La contraparte de algo determinista.
 Incertidumbre: Falta de certeza dada por el
conocimiento limitado.
 Diferencia estimada entre el valor estimado y el real.
 Error es la diferencia real entre el valor estimado y el real
20/07/2015
INAOE
7
Otras definiciones
(más o menos informales)
 Conjunto: Colección finita o infinita de
objetos en el que el orden, no tiene
importancia.
 Subconjunto: Una porción (B) de un conjunto
(A). Cada elemento de B pertenece a A, y se
denota B⊂A.
C
A
B
* Las definiciones formales las podéis encontrar en libros, o en Wolfram World of Maths [http://mathworld.wolfram.com/]
20/07/2015
INAOE
8
Otras definiciones
(más o menos informales)
 Función matemática: Una relación que asocia miembros
(subconjunto) de un conjunto origen con miembros de otro conjunto
destino.
 En ambos conjuntos puede haber miembros no asociados pero, para
aquellos miembros de A para los que existe una relación, esa es una
relación única. Del mismo miembro origen no pueden salir más de una
relación. Miembros del conjunto destino sin embargo, si pueden recibir
varias relaciones.
A
B
* Las definiciones formales las podéis encontrar en libros, o en Wolfram World of Maths [http://mathworld.wolfram.com/]
20/07/2015
INAOE
9
Otras definiciones
(más o menos informales)
 Conjunto potencia (sobre X): El conjunto
potencia es el conjunto de todos los
subconjuntos de X
* Las definiciones formales las podéis encontrar en libros, o en Wolfram World of Maths [http://mathworld.wolfram.com/]
20/07/2015
INAOE
10
Otras definiciones
(más o menos informales)
 Medida de un
conjunto X: Función
que asigna de forma
sistemática un
número real a cada
subconjunto de X
Figura de Wikipedia:
[http://http://en.wikipedia.org/wiki/Measure_(mathematics)]
* Las definiciones formales las podéis encontrar en libros, o en Wolfram World of Maths [http://mathworld.wolfram.com/]
20/07/2015
INAOE
11
Otras definiciones
(más o menos informales)
 Medida de Distancia (o
simplemente distancia):
Función de longitud acorde a
un criterio (similaridad,
cercanía, etc) entre dos
miembros de X
 Si la medida de distancia cumple

unas ciertas restricciones
entonces se llama métrica.
Con más o menos restricciones
se llaman divergencias,
pseudométricas, etc
* Las definiciones formales las podéis encontrar en libros, o en Wolfram World of Maths [http://mathworld.wolfram.com/]
20/07/2015
INAOE
12
Otras definiciones
(más o menos informales)
 Medida de
probabilidad (sobre X):
Una medida que asigna
a cada subconjunto de X
un valor entre 0 y 1, y
vale 0 para el conjunto
vacio, y 1 para el
conjunto X.
f:X→[0,1]

Más adelante veremos que la
definición de probabilidad impone
estas propiedades de forma natural

* Las definiciones formales las podéis encontrar en libros, o en Wolfram World of Maths [http://mathworld.wolfram.com/]
20/07/2015
INAOE
13
Otras definiciones
(más o menos informales)
 Estructura sobre un
conjunto: Conjunto de
funciones (reglas y
restricciones) que dan
significado a una colección
de objetos
 El significado depende del
tipo de estructura
 Algunos tipos de estructuras:
medidas, topologías,
algebraicas, órdenes,
geometrías, etc…
Ejemplo de estructura algebraica (un lattice conceptual).
Figura reproducida de [WangL2010, InformationSciences
24(15): 4865–4876]
* Las definiciones formales las podéis encontrar en libros, o en Wolfram World of Maths [http://mathworld.wolfram.com/]
20/07/2015
INAOE
14
Otras definiciones
(más o menos informales)
 Espacio: Un conjunto X con
una estructura añadida.
 Espacio medible: Un conjunto
X junto con una medida entre
los elementos del conjunto.
 Espacio métrico: Un conjunto X
junto con una métrica entre los
elementos del conjunto.
 Espacio de probabilidad: Un
espacio medible cuya medida
es una medida de probabilidad
Figura de Wikipedia:
[http://en.wikipedia.org/wiki/
Four-dimensional_space]
* Las definiciones formales las podéis encontrar en libros, o en Wolfram World of Maths [http://mathworld.wolfram.com/]
20/07/2015
INAOE
15
Otras definiciones
(más o menos informales)
 Operación: Función de una potencia del conjunto al
conjunto
 Mapeo: Función que preserva las estructuras
 …a menudo se usa como sinónimo de función
Figura reproducida de [Roweis
2000, Science, 290:2323-2326]
 Función medible: Mapeo entre espacios medibles
* Las definiciones formales las podéis encontrar en libros, o en Wolfram World of Maths [http://mathworld.wolfram.com/]
20/07/2015
INAOE
16
Otras definiciones
(más o menos informales)
 Variable: Característica representada por un símbolo
x que en diferentes objetos es susceptible de tomar
uno o distintos valores
 …o sea, una función!
 Variable determinista: Variable que aunque puede
tomar diferentes valores, estos están carentes de
aleatoriedad; es decir son predecibles
 Ej: los parámetros de una distribución.
 Variable aleatoria o estocástica: Variable cuyo valor
es en principio desconocido.
 …o sea, una función medible sobre un espacio de

probabilidad
Ej: los valores de la distribución.
* Las definiciones formales las podéis encontrar en libros, o en Wolfram World of Maths [http://mathworld.wolfram.com/]
20/07/2015
INAOE
17
Otras definiciones
(más o menos informales)
 Proceso matemático: Conjunto de funciones, o
familia de variables, en un espacio
 Efectivamente, un conjunto (de relaciones) sobre otro
conjunto (de objetos) con una estructura
 Proceso determinista: Familia de variables
deterministas carente de aleatoriedad, léase
predecible.
 Proceso estocástico o aleatorio: Familia de
variables aleatorias sobre un espacio de
probabilidad
* Las definiciones formales las podéis encontrar en libros, o en Wolfram World of Maths [http://mathworld.wolfram.com/]
20/07/2015
INAOE
18
Resumen
Estructura
(Relación entre
elementos de un
conjunto)
Conjunto
(Colección)
Espacio
(Conjunto con
una estructura)
Proceso
(Conjunto de
funciones en un
espacio)
Medida
(f:X→R)
Función
(Relación)
Mapeo
(Conserva
estructuras)
Medida de
distancia
Espacio medible
Función
medible
Espacio de
probabilidad
Medida de
probabilidad
Variable
aleatoria
Proceso
estocástico
20/07/2015
Variable
Proceso
determinista
INAOE
Relación es-un
Definido sobre…
Conjuntos
Funciones
Variable
determinista
19
Otras definiciones
(más o menos informales)
 Un conjunto contable es aquel cuya
cardinalidad es igual a la de (un subconjunto
de) los números naturales.
 …en otras palabras es enumerable
 …observa que puede ser finito o infinito
 Un conjunto incontable o no contable es
aquel que no es contable.
 Su cardinalidad es mayor a la de los números
naturales
 Hasta donde se, no existe tal cosa como finito
incontable.
20/07/2015
INAOE
20
CONJUNTOS
20/07/2015
INAOE
21
Experimentos y Desenlaces
 Experimento:
 En general: Prueba que consiste en repetir u
Volveremos a
esto en la
Unidad IV de
Diseño de
experimentos
observar un determinado fenómeno bajo
determinadas circunstancias, a menudo en
condiciones controladas, a fin de analizar sus efectos
o verificar/refutar una hipótesis
 En estadística: Un proceso cuyos posibles resultados
puede ser identificados (¡no necesariamente
predichos!) antes de su ejecución
 Desenlace (a.k.a. resultado):
 El “resultado” de un experimento.
20/07/2015
INAOE
22
Espacio de muestra
 Espacio de muestra (S):
 Listado exhaustivo de todos los posibles
desenlaces de un experimento.
 También se le conoce como la población.
 Cada posible desenlace está representado
por uno y sólo un punto en el espacio de
muestra.
20/07/2015
INAOE
23
Espacio de muestra
 Espacio de muestra (S):
 Ejemplo: Lanzar una moneda
S={anverso,reverso}
S={cara, cruz}
S={águila,sol}
20/07/2015
INAOE
24
Espacio de muestra
 Espacio de muestra (S):
 Ejemplo: Lanzar un dado
S={1,2,3,4,5,6}
20/07/2015
INAOE
25
Espacio de muestra
 Espacio de muestra (S):
 Ejemplo: Lanzar dos dados
S={(1,1), (1,2), (1,3), (1,4), (1,5), (1,6),
(2,1), (2,2), (2,3), (2,4), (2,5), (2,6),
(3,1), (3,2), (3,3), (3,4), (3,5), (3,6),
(4,1), (4,2), (4,3), (4,4), (4,5), (4,6),
(5,1), (5,2), (5,3), (5,4), (5,5), (5,6),
(6,1), (6,2), (6,3), (6,4), (6,5), (6,6)}
20/07/2015
INAOE
26
Espacio de muestra
 Espacio de muestra (S):
 Ejemplo: Escoger una carta
S={O1,O2,O3,O4,O5,O6,O7,OZ,OC,OR,
B1,B2,B3,B4,B5,B6,B7,BZ,BC,BR,
E1,E2,E3,E4,E5,E6,E7,EZ,EC,ER,
C1,C2,C3,C4,C5,C6,C7,CZ,CC,CR,}
20/07/2015
INAOE
27
Espacio de muestra
 Espacio de muestra (S):
 Ejemplo: Edad de una persona en años
20/07/2015
INAOE
28
Espacio de muestra
 Espacio de muestra (S):
 Ejemplo: Altura de una persona
20/07/2015
INAOE
29
Espacio de muestra
 Espacio de muestra (S):
 Ejemplo: Bases nitrogenadas (nucleótidos)
SADN={A,G,C,T}
SARN={A,G,C,U}
20/07/2015
INAOE
30
Espacio de muestra
 Espacio de muestra (S):
 Ejemplo: Codones
S={UUU,UUC, …,GGG}
S={{A,G,C,U}3}
20/07/2015
INAOE
31
Espacio de muestra
 Espacio de muestra (S):
 Ejemplo: Código genético ADN
SADN={{A,G,C,T}n}
20/07/2015
INAOE
32
Eventos
 Eventos (a.k.a. sucesos)
 Un subconjunto de un espacio de
probabilidad, léase un conjunto de
desenlaces.
 El espacio de muestra S es un evento
 El conjunto vacio o nulo ∅ no contiene
ningún desenlace
 El conjunto vacio se corresponde con un evento
que no puede ocurrir.
20/07/2015
INAOE
33
Eventos
 Eventos (A,B,…):
 Ejemplo: Lanzar una moneda
Aguila/Cara: A={anverso}
Sol/Cruz: B={reverso}
20/07/2015
INAOE
34
Eventos
 Eventos (A,B,…):
 Ejemplo: Lanzar un dado
x=2:
x=Par:
x=Impar:
x>2:
x<0:
A={2}
B={2,4,6}
C={1,3,5}
D={3,4,5,6}
E={}
Conjunto vacio. No contiene
ningún desenlace
20/07/2015
INAOE
35
Eventos
 Eventos (A,B,…):
 Ejemplo: Amoniácidos
Metionina: B={AUG}
Valina:
C={GUU,GUC,GUA, GUG}
Leucina:
A={UUA,UUG,CUU,CUC,CUA,CUG}
20/07/2015
INAOE
36
Diagrama de Venn: Representación gráfica
 El diagrama de Venn es la representación
gráfica de relaciones entre conjuntos
finitos.
S
A
20/07/2015
INAOE
37
Contenido en
 Se dice que un evento
A está contenido en
otro B, si A es un
subconjunto de B.
S
B
A⊂B
A
 Implicaciones:
 Si ocurre A, entonces

20/07/2015
ocurre B
Si ocurre B, no tiene por
que ocurrir A
INAOE
38
Contenido en
 Contenido en (A,B):
 Ejemplo: Lanzar un dado
x=2:
x=Par:
A={2}
B={2,4,6}
A⊂B
20/07/2015
INAOE
39
Contenido en
 Contenido en (A,B):
 Ejemplo: Edad de una persona en años
x=3ª edad: A={x>65}
x=votante: B={x>18}
x=reservista: C={x>18 ⋀ x<45}
A⊂B; C⊂B; A⊄C
20/07/2015
INAOE
40
Contenido en
 Sean A, B y C eventos. Entonces:
 Todos son subconjuntos del espacio de
muestra; ergo A⊆S; B⊆S; C⊆S
 Si A⊂B y B⊂A, entonces A=B
 Si A⊂B y B⊂C, entonces A⊂C
 Todos los eventos contienen al conjunto
vacio; o sea ∅⊆A; ∅⊆B; ∅⊆C
20/07/2015
INAOE
41
Negación o Complemento
 Se dice que un evento es
el complemento de otro
evento A, si contiene
todos los elementos del
espacio de muestra S
que no pertencen a A, y
se denota Ac.
S
A
 Implicaciones:
Ac
 Ac es el evento de que no
ocurra A.
 Si ocurre A, entonces no
ocurre Ac.
 Si ocurre Ac entonces no
ocurre A
20/07/2015
INAOE
42
Complemento
 Complemento (A,Ac):
 Ejemplo: Lanzar una moneda
Aguila/Cara: A={anverso}
Sol/Cruz: B={reverso}
A=Bc; Ac=B
20/07/2015
INAOE
43
Complemento
 Complemento (A,Ac):
 Ejemplo: Lanzar un dado
x=2:
A={2}
x=Par: B={2,4,6}
x=Impar:C={1,3,5}
B=Cc; Bc=C
Ac={1,3,4,5,6}
20/07/2015
INAOE
44
Complemento
 Complemento (A,Ac):
 Ejemplo: Edad de una persona en años
x=3ª edad: A={x≥65}
x=votante: B={x≥18}
x=reservista: C={x≥18 ⋀ x<45}
Ac={x<65};
Bc={x<18};
Cc={x<18 ∨ x≥45}
20/07/2015
INAOE
45
Contenido en
 Sea A un evento y Ac su complemento.
Entonces:
 Ac es un evento (Ac⊂S)
 (Ac)c=A
 ∅c =S y Sc=∅
 Corolario: ∅ es un evento
20/07/2015
INAOE
46
Eventos
 Ejercicio: ¿Es esto contradictorio?
 “Not every set of possible outcomes will be called an

event” [DeGroot, 2012, Sect. 1.3]
“Formally, any subset of the sample space is an
event.” [Glosario de estadística de la Univ. de
Glasgow]
Solución: No es contradictorio. Formalmente, efectivamente cada subconjunto
del espacio de muestra es un evento. En espacios finitos pequeños, cada
conjunto de desenlaces posibles es un evento. Pero cuando el espacio de
muestra es muy grande o infinito (incontable), sólo una porción limitada de los
conjuntos de desenlace tienen interés para “asignar” una probabilidad, y por
tanto la teoría de la probabilidad no se extiende a todos ellos. Para una
respuesta más detallada ver [De Groot, 2012, Cap 1].
20/07/2015
INAOE
47
Operaciones de conjuntos: Unión o
conjunción
 La unión o conjunción de dos
eventos (conjuntos) es el
evento que incluye a todos los
desenlaces que pertenecen
sólo a A, sólo a B, o a ambos A
y B.
S
A⋃B
B
A⋃B
 Implicaciones:
 No exclusividad. Los elementos
que pertenecen a A y a B son
parte de A⋃B
 Si ocurre A entonces ocurre
A⋃B
 Si ocurre B entonces ocurre
A⋃B
20/07/2015
A
INAOE
48
Operaciones de conjuntos: Unión o
conjunción
 Unión o conjunción (A⋃B):
 Ejemplo: Lanzar dos dados
A
B
C
x=3:
x=4:
x=6:
A={(1,2),(2,1)}
B={(1,3),(2,2),(3,1)}
C={(1,5),(2,4),(3,3),(4,2),(5,1)}
A⋃B={(1,2),(2,1),(1,3),(2,2),(3,1)};
B⋃C={(1,3),(2,2),(3,1),(1,5),(2,4),(3,3),(4,2),(5,1)};
A⋃C={(1,2),(2,1),(1,5),(2,4),(3,3),(4,2),(5,1)};
20/07/2015
INAOE
49
Operaciones de conjuntos: Unión o
conjunción
 Sea A y B dos eventos. Entonces:
 Conmutativa: A⋃B = B⋃A
 A⋃A = A
 A⋃∅ = A
 A⋃S = S
 A⋃Ac = S
 A⋃B=∅ ⇔ A=∅ ∧ B=∅
20/07/2015
INAOE
50
Operaciones de conjuntos: Unión o
conjunción
 La unión de eventos
S
(conjuntos) se puede
extender a más de
dos
A4
A2
A3 ∪A
 Implicaciones:
A1
 Pueden ser infinitos
conjuntos
20/07/2015
INAOE
51
Operaciones de conjuntos: Unión o
conjunción
 Unión o conjunción (A⋃B):
 Ejemplo: Lanzar dos dados
A
B
C
x=3:
x=4:
x=6:
A={(1,2),(2,1)}
B={(1,3),(2,2),(3,1)}
C={(1,5),(2,4),(3,3),(4,2),(5,1)}
A⋃B⋃C ={(1,2),(2,1),(1,3),(2,2),(3,1),(1,5),(2,4),(3,3),(4,2),(5,1)};
20/07/2015
INAOE
52
Operaciones de conjuntos: Unión o
conjunción
 Sea A, B y C eventos. Entonces:
 Asociativa: A⋃B⋃C = (A⋃B)⋃C = A⋃(B⋃C)
A={
,
}
B={
,
,
C= {
,
}
A⋃B⋃C ={
}
,
,
A⋃B={
,
,
,
,
}
B⋃C={
,
,
,
,
}
,
,
,
,
}
(A⋃B)⋃C ={
,
,
,
,
,
,
}
A⋃(B⋃C) ={
,
,
,
,
,
,
}
20/07/2015
INAOE
53
Operaciones de conjuntos: Intersección
 La intersección de dos
eventos (conjuntos) es
el evento que incluye a
aquellos desenlaces
que pertenecen a
ambos A y B.
S
B
A⋂B
A⋂B
 Implicaciones:
A
 Si ocurre A⋂B entonces
ocurren A y B
20/07/2015
INAOE
54
Operaciones de conjuntos: Intersección
 Intersección (A⋂B):
 Ejemplo: Lanzar dos dados
A
C
B
x=3:
A={(1,2),(2,1)}
x=4:
B={(1,3),(2,2),(3,1)}
x=1er dado sacó 2: C={(2,1),(2,2),(2,3),(2,4),(2,5),(2,6)}
A⋂B= ∅;
B⋂C={(2,2)};
A⋂C={(2,1)};
20/07/2015
INAOE
55
Operaciones de conjuntos: Intersección
 Intersección (A⋂B):
 Ejemplo: Escoger una carta
x=Figuras:
x=Oros:
x=Ases:
A={OZ,OC,OR,BZ,BC,BR,EZ,EC,ER,CZ,CC,CR}
B={O1,O2,O3,O4,O5,O6,O7,OZ,OC,OR}
C={O1,B1,E1,C1}
A⋂B={OZ,OC,OR}
B⋂C={O1}
A⋂C=∅
20/07/2015
INAOE
56
Operaciones de conjuntos: Intersección
 Sea A y B dos eventos. Entonces:
 Conmutativa: A⋂B = B⋂A
 A⋂A = A
 A⋂∅ = ∅
 A⋂S = A
 A⋂Ac =∅
 Si A⊂B ⇒ A⋂B = A
20/07/2015
INAOE
57
Operaciones de conjuntos: Intersección
 La intersección de
S
eventos (conjuntos)
se puede extender a
más de dos
A4
A3⋂A4
A2
A2⋂A3
A1⋂A2⋂A3
A3
 Implicaciones:
A1⋂A3
A1
 Pueden ser infinitos
conjuntos
20/07/2015
INAOE
58
Operaciones de conjuntos: Intersección
 Sea A, B y C eventos. Entonces:
 Asociativa: A⋂B⋂C = (A⋂B)⋂C = A⋂(B⋂C)
A={
,
}
B={
,
C= {
,
A⋂B⋂C ={
20/07/2015
,
,
}
A⋂B={
}
B⋂C={
,
}
}
}; (A⋂B)⋂C ={
INAOE
}; A⋂(B⋂C)={
}
59
Operaciones de conjuntos: Disyunción o
exclusión mutua
 Dos conjuntos A y B son
disjuntos o mutuamente
excluyentes si no contienen
desenlaces comunes; es decir,
si su intersección es el
conjunto vacio
S
B
A⋂B=∅
 Implicaciones:
 Si ocurre A, entonces no ocurre
B
 Si ocurre B, entonces no ocurre
A
 Observa que la operación se
A
disyunción pero los conjuntos
son disjuntos
20/07/2015
INAOE
60
Operaciones de conjuntos: Disyunción o
exclusión mutua
 La disyunción de eventos
(conjuntos) se puede extender
a más de dos; pero ¡ojo! su
definición es por pares:
S
A4
 Los eventos A1, …, An son
A2
disjuntos (por pares) o
mutuamente excluyentes si
para cada par i, j (i≠j)
Ai⋂Aj=∅
 Implicaciones:
A3
 Si una colección de eventos es
disjunta por pares, su
intersección es vacía
A1
20/07/2015
INAOE
61
Operaciones de conjuntos: Disyunción o
exclusión mutua
 No por que la
intersección sea
vacía, los conjuntos
son disjuntos
S
A4
A3
 Algunos pares
pueden tener su
intersección no vacía
20/07/2015
A2
A1
INAOE
62
Operaciones de conjuntos: Disyunción o
exclusión mutua
 Disyunción (A,B,…):
 Ejemplo: Escoger una carta
x=Figuras:
x=Oros:
x=Ases:
A={OZ,OC,OR,BZ,BC,BR,EZ,EC,ER,CZ,CC,CR}
B={O1,O2,O3,O4,O5,O6,O7,OZ,OC,OR}
C={O1,B1,E1,C1}
A⋂B={OZ,OC,OR}
B⋂C={O1}
A⋂C=∅
Figuras y Oros no son disjuntos
Oros y Ases no son disjuntos
Figuras y Ases son disjuntos
Figuras, Oros y Ases no son disjuntos
20/07/2015
INAOE
63
Operaciones de conjuntos: Disyunción o
exclusión mutua
 Disyunción (A,B,…):
 Ejemplo: Amoniácidos
Leucina:
Metionina:
Valina:
A={UUA,UUG,CUU,CUC,CUA,CUG}
B={AUG}
C={GUU,GUC,GUA,GUG}
Leucina ∩ Metionina=∅
Leucina ∩ Valina=∅
Metionina ∩ Valina=∅
Leucina, Metionina y Valina son mutuamente excluyentes
20/07/2015
INAOE
64
Eventos
 Ejercicio: Sean los conjuntos




S={0,...,40}
A={2, 3, 5, 6, 14, 28, 32}
B={0, 1, 3, 5, 16, 17, 21, 28, 30, 31, 32, 33}
C={1, 2, 4, 5, 8, 9, 10, 16, 18, 24, 28}
Encuentre: a) A∩B, b) B⋃C, c) A⋃(B⋂C), d) Bc⋂C
Solución:
a) A∩B={3,5,28,32}
b) B⋃C={0,1,2,3,4,5,8,9,10,16,17,18,21,24,28,30,31,32,33}
c) (B⋂C)={1,5,16,28}
A⋃(B⋂C)={1,2,3,5,6,14,16,28,32}
a) Bc={2,4,6,7,8,9,10,11,12,13,14,15,18,19,20,22,23,24,25,26,27,29,34,3
5,36, 37,38,39,40}
Bc⋂C={2,4,8,9,10,18,24}
20/07/2015
INAOE
65
Eventos
 Ejercicio: Sean los conjuntos A, B y C de la figura. Encuentre
fórmulas que definan cada uno de los 8 eventos disjuntos indicados
[DeGroot, 2012, Ch1]
S
5
A
B
4
2
1
C 7
6
Pista: Piensa
en binario
3
8
Solución:
1: {A ∩ B ∩ C}
2: {A ∩ Bc ∩ C}
3: {Ac ∩ B ∩ C}
4: {A ∩ B ∩ Cc}
5: {A ∩ Bc ∩ Cc}
6: {Ac ∩ B ∩ Cc}
7: {Ac ∩ Bc ∩ C}
8: {Ac ∩ Bc ∩ Cc}
20/07/2015
INAOE
66
Eventos
 Ejercicio: Dados los tres colores primarios R, G, y B,
Enumere el espacio de búsqueda de una imagen de 3
pixeles, si cada pixel sólo puede tomar un color cada
vez.
Solución:
S={RRR,RRG,RRB, RGR, RGG,RGB, RBR,RBG,RBB,
GRR,GRG,GRB, GGR, GGG,GGB, GBR,GBG,GBB,
BRR,BRG,BRB, BGR, BGG,BGB, BBR,BBG,BBB}
20/07/2015
INAOE
67
Eventos
 Ejercicio: Demostrar la propiedad distributiva de la
unión sobre la intersección:
A⋃(B⋂C) = (A⋃B) ⋂ (A⋃C)
Pista: Idea intuitiva
S
A
S
B
A
C
B
A
B
B
C
(B⋂C)
S
C
A
C
A
B
C
(A⋃C)
INAOE
A⋃(B⋂C)
S
B
(A⋃B)
20/07/2015
A
C
A
S
S
(A⋃B) ⋂ (A⋃C)
68
Eventos
 Ejercicio: Solución
Demostración de la igualdad de izquierda a derecha:
 Sea x un desenlace en A⋃(B⋂C), entonces x está contenido
en A o contenido en la intersección entre B y C.
 Si x está contenido en A; entonces, también está contenido en la

unión de A con B. Así mismo, x también está contenido en la unión
de A con C. Por tanto, x está contenido en la intersección de la
unión de A con B y la unión de A con C.
Si x está contenido en la intersección entre B y C; entonces x está
contenido en B y x está contenido en C. Ya que x está contenido en
B, también está contenido en la unión de A con B. Así mismo, x está
contenido en la unión de A con C. Por tanto, x está contenido en la
intersección de la unión de A con B y la unión de A con C.
Esto prueba que A⋃(B⋂C) ⊂ (A⋃B) ⋂ (A⋃C)
 Pero esto, no es la igualdad; falta la demostración de derecha
a izquierda.
20/07/2015
INAOE
69
Eventos
 Ejercicio: Solución (cont.)
Demostración de derecha a izquierda:
 Sea x un desenlace en (A⋃B) ⋂ (A⋃C). Entonces x está
contenido en la unión de A y B, así como en la unión de A y C.
Al estar contenido en la unión de A y B, x está contenido o
bien en A, o bien en B (o en ambos).
 Si está en A, entonces está en la unión de A con (B⋂C).
 Si está en B y no en A, como pertenece a la intersección (A⋃B) ⋂
(A⋃C), pero no está en A, eso significa ¡que tiene que estar en C!, y
por ende, como está en B y C, entonces está en la intersección de
B y C.
Esto prueba que (A⋃B) ⋂ (A⋃C) ⊂ A⋃(B⋂C)
 Entre la demostración de izquierda a derecha y la de derecha
a izquierda queda demostrada la igualdad, c.q.d.
20/07/2015
INAOE
70
Eventos
 Ejercicio: Demostrar la propiedad distributiva de la
unión sobre la intersección, y de la intersección sobre la
unión:
A⋂(B⋃C) = (A ⋂ B) ⋃ (A ⋂ C)
Solución:
La solución es análoga a la demostración de la propiedad distributiva de la unión sobre la
intersección. Se deja como ejercicio.
20/07/2015
INAOE
71
PROBABILIDAD BÁSICA
20/07/2015
INAOE
72
Ya sabemos…
 Probabilidad:
20/07/2015
INAOE
73
Probabilidad de eventos disjuntos
 Cada evento Ai tiene asociada una
probabilidad Pr(Ai). En un conjunto (finito
o infinito) de eventos disjuntos:
Observa que ¡la probabilidad de que dos de estos evento Ai
ocurran a la vez es 0! Esta igualdad, lo que indica es que “el
nuevo evento” de la unión de ellos; tiene una probabilidad
igual a la suma de sus partes.
20/07/2015
INAOE
74
Probabilidad de eventos disjuntos
 Ejemplo:
S
A2
A4
Pr({A1, A2, A3, A4}) =
Pr(A1)+Pr(A2)+Pr(A3)+
Pr(A4)
A1
A3
20/07/2015
INAOE
75
Probabilidad de eventos
 Sean A y B eventos cuyas probabilidades son
Pr(A) y Pr(B) respectivamente. La
probabilidad de la unión de estos eventos
es (independientemente de si son disjuntos o
no):
S
B
A
20/07/2015
INAOE
76
Probabilidad de eventos
 Sean A y B eventos cuyas probabilidades son
Pr(A) y Pr(B) respectivamente. La
probabilidad de la intersección de estos
eventos es (independientemente de si son
disjuntos o no):
S
B
A
20/07/2015
INAOE
77
Probabilidad de eventos
 Ejercicio: ¿Cuál es la probabilidad de la unión
de 3 eventos; A1, A2, A3?
Solución:
S
A3
A2
A1
20/07/2015
INAOE
78
Probabilidad de eventos
 Ejercicio: ¿Cuál es la probabilidad de la unión
de n eventos; A1, A2, …, An?
Solución:
Podéis encontrar la demostración por inducción en [DeGroot 2012, Ch1, pg 48, Teorema 1.10.2]
20/07/2015
INAOE
79
Axiomas de probabilidad
 Los axiomas de probabilidad se definen para asegurar que
una probabilidad cualquiera Pr(A) cumple con unas
propiedades o expectativas. A menudo, en los libros de
probabilidad se definen 3 axiomas:
 Axioma 1: La probabilidad de cualquier evento es mayor o igual
a 0.
 Axioma 2: La probabilidad del espacio de muestra es del 100%
(normalizada, eso significa 1).
 Axioma 3: La probabilidad de la unión de eventos disjuntos, es
la suma de las probabilidades.
* Los axiomas no es que
no se puedan demostrar;
simplemente es tan obvio
que a menudo no se hace
20/07/2015
INAOE
80
Demostración de los axiomas
 Denotemos la cardinalidad de un conjunto cualquiera
X, (léase el número de elementos) como #X.
 Observa que la cardinalidad de un conjunto, no puede ser
negativa; un conjunto no puede tener -3 elementos; #X≥0.
 Sea S un espacio de muestra de cardinalidad n>0,
S={a1, a2, …, an}
 El número de casos posibles es #S=n.
 Sea A un evento (A⊂S) con cardinalidad #A.
 El número de casos favorables es 0≤#A≤#S.
 Por definición: Pr(A) = #A/#S = #A/n
20/07/2015
INAOE
81
Demostración de los axiomas
 Demostración:
 Axioma 1: #A≥0, n>0 ⇒ Pr(A) = #A/n ≥ 0
 Axioma 2: #S=n ⇒ Pr(S) = #S/#S = n/n =1
 Axioma 3: Si A y B son disjuntos entonces el
número de elementos de la unión de A y B es
igual al número de elementos de A más el
número de elementos de B:
#(A⋃B) = #A + #B
y por tanto:
Pr(A⋃B)= #(A⋃B)/n = (#A + #B)/n = #A/n + #B/n =
Pr(A)+Pr(B)
Podeis encontrar los detalles en http://stat-www.berkeley.edu/~stark/SticiGui/Text/probabilityAxioms.htm
20/07/2015
INAOE
82
Propiedades de la Probabilidad
 Pr(Ac)=1-Pr(A)
 Si A⊂B ⇒ Pr(A)≤Pr(B)
 0≤Pr(A)≤1
 Pr(A∩Bc)=Pr(A)-Pr(A∩B)
Podéis encontrar las demostraciones en [DeGroot, 2012, Cap1]
20/07/2015
INAOE
83
Desigualdad de Bonferroni
 Sea un conjunto (finito o infinito) de
eventos A1,…,An. Se puede demonstrar
que:
 A esta desigualdad se le conoce como la
desigualdad de Bonferroni.
20/07/2015
INAOE
84
Eventos
 Ejercicio: Sea un evento A.
a) Si Pr(A)=0. ¿Significa eso que A no puede ocurrir?
b)
¿Cómo se interpreta?
Si Pr(A)=1 ¿Significa eso que A siempre ocurre?
¿Cómo se interpreta?
Solución:
a) Un evento con probabilidad Pr(A)=0, no es imposible; puede ocurrir. Por
ejemplo; en un espacio de muestra real, como veremos más adelante la
probabilidad de que A tome el valor x, Pr(A=x)=0. Eso no significa que el
desenlace x no pueda ocurrir, sólo que como el espacio de muestra es
infinito (casos posibles=∞), su probabilidad de que ocurra es 0.
b) Un evento con probabilidad Pr(A)=1 siempre ocurre. Observa que para que
Pr(A)=1=Pr(S), y por ende A=S.
20/07/2015
INAOE
85
Eventos
 Ejercicio: En un partido de futbol entre el Real Madrid y
Barcelona. Sin considerar al trío arbitral:
a) ¿Cuál es la probabilidad de que un niño en la grada señale a
un jugador del Real Madrid? ¿y a uno del Barcelona? ¿y a uno
del Valencia?
b) ¿Cuál es la probabilidad de que señale a un portero?
c) ¿Cuál es la probabilidad de que señale al portero del Real
Madrid?
Solución:
a) Jugador del Madrid: 11/22=0.5; Jugador del Barcelona: 11/22=0.5; Jugador
del Valencia: 0/22=0
b) Porteros: 2/22
c) Portero del Madrid1/22
20/07/2015
INAOE
86
Eventos
 Ejercicio: Una ciudad de México (ficticio), recibió en los
últimos años el siguiente número de días de sol:
 2009: 233
 2010: 306
 2011: 322
 2012: 286
Basado en esta serie temporal, ¿cuál es la probabilidad de que
haya sol mañana?
Solución:
Asumiendo 1 año bisiesto; el número total de días sería 365+365+365+366=1461
De estos el número total de días con sol fueron: 233+306+322+286=1147
Por tanto, la probabilidad de que cualquier día haga sol en esta ciudad es de:
1147/1461= 0.78
20/07/2015
INAOE
87
Eventos
 Ejercicio: En un colegio, los de primaria ocupan un ala
de 300m2, y los de secundaria el ala opuesta de 475m2.
Finalmente, entre ambas alas hay un patio común de
380m2 que pertenece tanto a primaria como a
secundaria. En la calle aledaña unos niños que juegan a
la pelota, la “embarcan” en el colegio.
 Considerando el área en común ¿Cuál es la probabilidad de que
la pelota caiga en un área de secundaria? ¿Y en primaria?
 ¿Cuál es la probabilidad de que caiga en el área común?
Solución:
El colegio tiene una extensión de 300+475+380=1155m2. De estos, el área de
secundaria incluyendo la parte común son 475+380=855m2, y la de primaria
300+380=680.
a) En secundaria: 855/1155 = 0.74; En primaria: 680/1155=0.58
b) En el área común: 380/1155=0.32
20/07/2015
INAOE
88
Probabilidad en espacios continuos
 Cuando el espacio de muestra S es incontable, la
idea de definir la probabilidad de un subconjunto
de S en términos de las probabilidades de los
desenlaces elementales es cuando menos difícil.
 Ejemplo: Supón que quisieras calcular la probabilidad
del intervalo A=(0.5, 0.75) en el espacio de muestra
S=[0,1]⊂ℝ. Por definición, cada elemento w⊂[0,1]
tiene probabilidad 0, por lo que obtendríamos
¡Pr(A)=0!.
 Necesitamos definir por tanto una forma
alternativa para definir la probabilidad de dichos
subconjuntos.
 La clave está en trabajar directamente con
subconjuntos no atómicos (con más de un elemento).
20/07/2015
INAOE
89
Probabilidad en espacios continuos
 Idealmente, queremos especificar la Pr(A)
para cada subconjunto A⊆S.
 Hacerlo exhaustivo es inviable
matemáticamente…
 …y hacerlo a partir de los elementos unitarios
ya hemos visto que tampoco es buena idea
 …pero, se puede buscar una via alternativa:
 …asignar probabilidades únicamente a una
colección parcial de subconjuntos de S.
20/07/2015
INAOE
90
Probabilidad en espacios continuos
 Pero es necesario, que a partir de esta
colección parcial de probabilidades
podamos calcular todas las demás;
 ¿cuál sería, por tanto, esta colección
parcial de subconjuntos de S?
 Necesitamos definir una estructura algebraica
llamada σ-álgebra.
20/07/2015
INAOE
91
Probabilidad en espacios continuos
 Semi-formal: σ-álgebra es una estructura
definida sobre un conjunto S (el espacio
de muestra) sobre el que se han definido
de forma cerrada las operaciones de:
 complemento,
 unión contable
 intersección contable
20/07/2015
INAOE
92
Probabilidad en espacios continuos
 Formal: Sea un conjunto S. Un σ-álgebra
es una colección F de subconjuntos de S
con las siguientes propiedades:
 ∅∈F
 Si A∈F  Ac∈F
Observa que no es necesario
definir la intersección de forma
explícita. Es posible demostrar
que si A,B∈F, entonces A⋂B∈F
y en general que A1⋂…⋂A∞ ∈F
 Si Ai∈F 
20/07/2015
INAOE
93
Probabilidad en espacios continuos
 σ-álgebra:
 Ejemplos:
 Caso trivial F={∅,S}
 Sea un subconjunto A⊂S cualquiera: F={∅,A,Ac,S}
 Sea S={1,2,…,6}n el espacio asociado con lanzar n
dados, y sean tres eventos:
 A={w=(w1,…,wn)|wi≤2}
 B={w=(w1,…,wn)| 3≤wi≤4}
 C={w=(w1,…,wn)|wi≥5}
 Podemos definir:
F={∅,A,B,C,A⋃B(=Cc),A⋃C(=Bc),B⋃C(=Ac),S}
20/07/2015
INAOE
94
Probabilidad en espacios continuos
 Un conjunto A∈F se llama un evento,
conjunto medible o conjunto F-medible.
 Cada vez que se concluye el experimento, el
desenlace w pertenece o no a A.
 Si w∈A, entonces ha ocurrido A.
 Si w∉A, entonces no ha ocurrido A.
 El par (S,F) es un espacio medible.
20/07/2015
INAOE
95
Probabilidad en espacios continuos
 Medida:
 Informal: Ya la vimos al principio
 Formal: Sea (S,F) un espacio medible. Una
medida es una función f:F→[0,∞] que asigna un
número real no negativo f(A) a cada conjunto
A∈F, y que satisface dos condiciones:
 f(∅)=0
 Suma contable: Si {Ai} es una secuencia disjunta de
conjuntos que pertenecen a F entonces:
20/07/2015
INAOE
96
Probabilidad en espacios continuos
 Medida de probabilidad:
 Informal: Ya la vimos al principio
 Formal: Una medida Pr tal que Pr:F→[0,1] y
que cumple que Pr(S)=1 es una medida de
probabilidad.
 La tripleta (S,F,Pr) es un espacio de
probabilidad.
 Ya vimos la definición informal al principio.
20/07/2015
INAOE
97
Probabilidad en espacios continuos
 Para cada A∈F, Pr(A) se le llama la
probabilidad del evento A.
 Observa que puede ocurrir que Pr(A)=1 con
A≠S.
20/07/2015
INAOE
98
Probabilidad en espacios continuos
 Medida de probabilidad:
 Propiedades:
 Suma finita: Si A1,…, An son disjuntos entonces:
 Para cualquier A∈F: Pr(Ac)=1-Pr(A)
 A,B∈F: A⊂B  Pr(A)≤Pr(B)
Puedes encontrar las demostraciones en: [http://ocw.mit.edu/courses/electricalengineering-and-computer-science/6-436j-fundamentals-of-probability-fall2008/lecture-notes/MIT6_436JF08_lec01.pdf]
20/07/2015
INAOE
99
Probabilidad en espacios continuos
 Medida de probabilidad:
 Propiedades:
 Límite de la unión: Sea {Ai} una secuencia de
eventos, entonces:
 …sin importar si son disjuntos o no.
Puedes encontrar la demostración en: [http://ocw.mit.edu/courses/electricalengineering-and-computer-science/6-436j-fundamentals-of-probability-fall2008/lecture-notes/MIT6_436JF08_lec01.pdf]
20/07/2015
INAOE
100
Probabilidad en espacios continuos
 Continuidad de espacios de probabilidad:
 Teorema: Sea F un σ-álgebra de conjuntos de S, y
sea Pr:F→[0,1] una medida de probabilidad que
satisface Pr(S)=1. Entonces los siguientes son
equivalentes:
 Pr es una medida de probabilidad que satisface la suma
contable (¡obvio!)
 Si {Ai} es una secuencia incremental de conjuntos en F
(lease ∀i: Ai⊂Ai+1) y
entonces:
 Si {Ai} es una secuencia decreciente de conjuntos en F
(lease ∀i: Ai⊃Ai+1) y
entonces:
 Si {Ai} es una secuencia decreciente de conjuntos en F
(lease ∀i: Ai⊃Ai+1) y
entonces:
Puedes encontrar la demostración en: [http://ocw.mit.edu/courses/electrical-engineering-andcomputer-science/6-436j-fundamentals-of-probability-fall-2008/lecture20/07/2015
INAOE
notes/MIT6_436JF08_lec01.pdf]
101
Probabilidad en espacios continuos
 Con el teorema de la continuidad en espacios de
probabilidad, basta definir un σ-álgebra de conjuntos de S
para que podamos calcular las probabilidades en espacios
continuos no contables.
 Bueno…realmente esto no es todo, se requiere además que el
σ-álgebra sea capaz de generar cualquier conjunto C de
subconjuntos de S, aunque este C no sea necesariamente un σálgebra, en otras palabras, no vale cualquier σ-álgebra, se
requiere que sea un álgebra de Borel.
 El álgebra de Borel sobre un conjunto X es el σ-algebra más
pequeño que contiene a todos los conjuntos abiertos o de forma
equivalente a todos los conjuntos cerrados.
 Si quieres saber más:
 http://ocw.mit.edu/courses/electrical-engineering-and-computerscience/6-436j-fundamentals-of-probability-fall-2008/lecturenotes/MIT6_436JF08_lec01.pdf
20/07/2015
INAOE
102
Contando en serio…
NÚMEROS COMBINATORIOS
20/07/2015
INAOE
103
Espacios no equiprobables
 ¿Qué ocurre cuando un espacio no es equiprobable, es decir, no
todos los desenlaces tienen la misma probabilidad?
 No pasa nada! Sólo que es un poco más difícil contar, así que se hace
de forma normalizada.
 Sea un espacio de muestras S finito es decir, que contiene sólo un
número finito de desenlaces S={si, i=1…n}, donde la #S=n.
 A cada desenlace si se le asigna una probabilidad pi.
 Para obtener una medida de probabilidad, se debe cumplir que:
Pr(si)=pi≥0
20/07/2015
INAOE
i=1…n
104
Espacios no equiprobables
 La probabilidad de un evento A se calcula
sumando las probabilidades pi de cada
uno de los desenlaces si que pertenecen a
A.
20/07/2015
INAOE
105
Espacios no equiprobables
 Probabilidad de un evento (A):
 Ejemplo: Lanzar dos dados
S={1,2,3,4,5,6,7,8,9,10,11,12}
P(S)={0, 1, 2 , 3, 4, 5, 6, 5, 4, 3, 2, 1}/36
A={7}; Pr(A)=6/36=1/6=0.16
B={x>9}; Pr(B)=3/36+2/36+1/36=6/36=0.16
20/07/2015
INAOE
106
Muestreo
 Regla de la multiplicación:
 Considere un experimento que se ejecuta en
varias partes (k)
 Ejemplo: Lanzar dos dados; k=2
 En cada parte del experimento se puede tener un
número desenlaces nk de desenlaces.
 Si en cada parte k, pueden ocurrir todos sus
desenlaces nk independientemente de lo que
haya ocurrido en las otras partes, entonces el
espacio de muestra S contiene ∏nk=n1n2…nk
desenlaces.
 Cada desenlace se representa por la tupla <x1,…,xk>
20/07/2015
INAOE
107
Muestreo
 Muestreo con y sin reposición:
 Sea un experimento en k partes iguales, léase
con los mismos desenlaces
 En un muestreo con reposición, los desenlaces
de cada una de las partes pueden repetirse.
 La población (cardinalidad) de desenlaces es
constante en cada parte del experimento
 En un muestro sin reposición, los desenlaces de
cada una de las partes iguales NO pueden
repetirse
 La población (cardinalidad) de desenlaces disminuye
en cada parte del experimento
20/07/2015
INAOE
108
Operaciones de conjuntos: Intersección
 Muestreo con
reposicion:
 Ejemplo: Lanzar dos
dados
 Cada dado puede sacar
un número del 1 al 6
independientemente de
lo que ocurra en el otro
dado
20/07/2015
INAOE
109
Muestreo con reposición
 Muestreo con
reposicion:
 Ejemplo: Amoniácidos
 Cada posición del
codón es una base
nitrogenada {A,G,C,U}
y no depende de las
posiciones colindantes
20/07/2015
INAOE
110
Contando en Muestreo con reposición
 Sea un experimento con k partes iguales,
cada parte con n desenlaces
 El número de desenlaces posibles es:
#S=nk
20/07/2015
INAOE
111
Muestreo sin reposición
 Muestreo sin
reposición:
 Ejemplo: Sorteo de la
champions *
 Cada bola sólo se extrae
1 vez
 Una vez extraída una
bola, no se repone al
bombo
 El Man. United no se
puede enfrentar a sí
mimso.
20/07/2015
* Si, ya sé; el sorteo real no es libre…es
sólo un ejemplo, ¿ok?
INAOE
112
Contando en Muestreo sin reposición
 Sea un experimento con k partes iguales,
cada parte con n desenlaces
 El número de desenlaces posibles es:
#S = n! = n*(n-1)*(n-2)*…*1
20/07/2015
INAOE
113
Probabilidades de un muestreo
Cómo calcular probabilidades con y sin reemplazo
Video:
7:38mins
http://www.youtube.com/watch?v=uKTjh-6PFjo&feature=player_embedded#!
20/07/2015
INAOE
114
Permutaciones
 El número de permutaciones (formas de
ordenar) de n elementos tomados k a la
vez o sin reemplazo es Pn,k
 En una permutación el orden importa.
 El caso particular Pn,n
20/07/2015
INAOE
115
Permutaciones
 A={ , , }
 Permutaciones: #S=3*2*1=6
20/07/2015
INAOE
116
Permutaciones
 A={1, 2, 3, 4}
 Permutaciones: #S=4*3*2*1=24
4 3 2 1
4 3 1 2
4 2 3 1
4 2 1 3
4 1 2 3
4 1 3 2
20/07/2015
3
3
3
3
3
3
4
4
2
2
1
1
2
1
4
1
2
4
1
2
1
4
4
2
INAOE
2
2
2
2
2
2
3
3
4
4
1
1
4
1
3
1
4
3
1
4
1
3
3
4
1
1
1
1
1
1
3
3
2
2
4
4
2
4
3
4
2
3
4
2
4
3
3
2
117
Permutaciones
 Propiedades:
 0! = 1
 Por convención de la comunidad matemática,
como resultado de una multiplicación sin
factores
20/07/2015
INAOE
118
Combinaciones
 El número de combinaciones (formas de
ordenar) de n elementos tomados k a la
vez o sin reemplazo es Cn,k
 En una combinación el orden NO importa.
20/07/2015
INAOE
119
Combinaciones
 Coeficientes binomiales:
 El número Cn,k también se denota por el
símbolo del coeficiente binomial
 El caso particular Cn,n
20/07/2015
INAOE
120
Permutaciones
 Propiedades:
 En general; el número de permutaciones es
mayor que el número de combinaciones
 De forma intuitiva; las permutaciones {3,2,1},
{3,1,2},{2,3,1},{2,1,3},{1,3,2},{1,2,3} todas se
corresponden con una única combinación {1,2,3}
20/07/2015
INAOE
121
Muestreo sin reemplazo
 Ejercicio: Jaimito tiene un tarro de caramelos. 12 son
de naranja y 9 son de limón. Jaimito toma 2 de esos
caramelos:
a) Encuentre la probabilidad de que ambos caramelos sean de
naranja
b) Encuentre la probabilidad de que ambos caramelos sean de
limón
c) Si Jaimito toma un tercer caramelo; ¿qué probabilidad hay de
que los tres sean de naranja? y de ¿qué al menos 1 sea de
limón?
Pista: Tras tomar un caramelo de naranja; quedan sólo 20 caramelos (11 de
naranja y 9 de limón), etc
Ejercicio extraído de: [http://www.onlinemathlearning.com/probability-without-replacement.html]
20/07/2015
INAOE
122
Muestreo sin reemplazo
 Ejercicio: Solución
 a) Pr(N,N)=11/35
 b) Pr(L,L)=6/35
 c) Pr(N,N,N)=(12/21)*(11/20)*(10/19)=22/133
Pr(al menos 1 sea L) = 1-Pr(N,N,N) = 1-22/133 = 111/133
20/07/2015
INAOE
123
Muestreo con reemplazo
 Ejercicio: Los humanos tenemos 23 pares de
cromosomas. Un gen es una porción del código genético
en cada cromosoma del par. Un alelo, es la información
genética a cada una de las posiciones del gen (en cada
uno de los cromosomas emparejados). A la combinación
de los dos alelos del gen se le llama genotipo.
 El gen de la sangre consiste de dos alelos del conjunto
{O,A,B}. Si no hacemos distinción entre el orden de los
alelos (ej: AO=OA), ¿cuántos genotipos existen de
sangre?
Pista: El ejercicio se puede resolver “a mano” por que son “números” pequeños,
pero lo interesante es resolverlo de forma genérica usando números
combinatorios.
Ejercicio extraído de: [DeGroot, Ch1, Ejemplo 1.8.4]
20/07/2015
INAOE
124
Muestreo con reemplazo
 Ejercicio: Solución
 Manual:
 Alelos iguales = {OO,AA,BB}=3;
 Alelos diferentes = {OA, OB, AB}=3
 Total: {OO,OA,OB, AA, AB, BB} = 6 genotipos
 Solución general: Supongamos que un gen puede presentar n alelos diferentes.
Si no distinguimos el orden de los alelos hay n pares donde ambos alelos son
iguales, y Cn,2 pares donde los alelos son diferentes. Por tanto, el número total
de genotipos es:
 En el caso particular de n=3;
20/07/2015
INAOE
125
Muestreo con reemplazo (y sin orden)
 La fórmula general para calcular el
número de combinaciones de tamaño k
sin orden en un muestro con reemplazo
sobre n elementos es:
20/07/2015
INAOE
126
Ordenaciones
 Permutaciones permite contar muestreos de elementos sin reemplazo
teniendo en cuenta el orden
 Combinaciones permite contar muestreos de elementos sin tener en cuenta
el orden
 Sin reemplazo: números combinatorios de tipo Cn,k
 Observa que si k=n  Cn,k =Cn,k =1
 Con reemplazo: números combinatorios de tipo Cn+k-1,k
 Ordenaciones permite contar muestreos de elementos con reemplazo
teniendo en cuenta el orden
 Es fácil calcular el número de ordenaciones; nk
Con k=n
Orden Importa
Orden no importa
Con reemplazo
Ordenaciones*
Combinaciones**
Sin reemplazo
Permutaciones
¡1 combinación
única!
*El término ordenaciones (arrangements) no es tan estándar como los de permutaciones o combinaciones. A veces
simplemente se refieren a ellos como muestreo ordenado con reemplazo.
** Combinaciones es algo más estricto que los números combinatorios en general. No los confundas…
20/07/2015
INAOE
127
Contando
 Ya sabeis contar! 
 Un último consejo:
 Contar desenlaces en un experimento es más
difícil de lo que parece
 Los números factoriales, las permutaciones y
los números combinatorios se pueden
“mezclar” para contar grandes números de
manera “sencilla”
 …la clave está en definir muy claramente que
constituye un desenlace.
20/07/2015
INAOE
128
PROBABILIDAD
CONDICIONAL
20/07/2015
INAOE
129
Ya sabemos…
 Sean A y B eventos cuyas probabilidades son
Pr(A) y Pr(B) respectivamente. La
probabilidad de la intersección de estos
eventos es (independientemente de si son
disjuntos o no):
20/07/2015
INAOE
130
Probabilidad condicional
 La probabilidad condicional es la
probabilidad de que ocurra un evento A
conociendo la ocurrencia (o no) de otro
evento B, y se denota P(A|B)
 La probabilidad condicional es crítica para
la inferencia estadística.
20/07/2015
INAOE
131
Probabilidad condicional
 La probabilidad condicional se calcula
cómo:
P(A∩B)
S
B
A
20/07/2015
INAOE
132
Propiedades
 Si A y B son disjuntos:
 Y ocurre B ⇒ A∩B=∅ ⇒ Pr(A|B)=0
 Si A⊂B
 Y ocurre B ⇒ A∩B=A ⇒ Pr(A|B)=Pr(A)/P(B)
 Por supuesto, podemos despejar:
 Pr(A∩B)= Pr(A|B)⋅P(B)
 Pero también; Pr(A∩B)= Pr(B|A)⋅P(A)
20/07/2015
INAOE
133
Probabilidad condicional
 Probabilidad condicional:
 Ejemplo: Sabores de Helados
 Supongamos que al 70% de tus amigos

les gusta el chocolate, y al 35% les gusta
el chocolate y las fresas
¿A cuántos de los que le gusta el
chocolate también les gustan las fresas?
Ejemplo sacado de: http://www.mathsisfun.com/data/probability-events-conditional.html
20/07/2015
INAOE
134
Probabilidad Condicional
 Ejercicio: Un cuestionario rápido:
http://www.regentsprep.org/Regents/math/A
LGEBRA/APR3/PracCond.htm
Copia local
20/07/2015
INAOE
135
Probabilidad condicional
 Probabilidad
condicional:
 Ejemplo: Probabilidad de
que te toque la lotería *
 El juego de loteria:
 En un bombo se meten n
bolas numeradas y se
extraen k.
 El ganador es aquel que
está en posesión de la
combinación ganadora que
incluye los k números
sacados del bombo
* Si la juegas
20/07/2015
INAOE
136
Probabilidad condicional
 Probabilidad
condicional:
 Ejemplo: Probabilidad de
que te toque la lotería
(cont.)
 Mecánica:
 Una vez extraída una bola,
no se repone al bombo. El
orden no importa.
 Se extrae 1 bola cada vez.
20/07/2015
INAOE
137
Probabilidad condicional
 Probabilidad condicional:
 Ejemplo: El número de
desenlaces (combinaciones)
totales depende del número
de bolas que entran en el
sorteo (n), así como del
número de bolas que se
extraen (k), y ya sabemos
que es Cn,k.
 Por ejemplo; En un sorteo de
n=49 números con
combinaciones de k=6:
20/07/2015
INAOE
138
Probabilidad condicional
 Probabilidad condicional:
 Ejemplo: Desafortunadamente,
sólo tienes 1 posibilidad (o tantas
como combinaciones jueges)!
 Muestreo sin reemplazo y sin orden
 Ver diapositiva sobre Ordenaciones
 Por definición tienes un sólo caso
favorable sobre X casos totales
 Por tanto, la probabilidad de que
te toque la lotería a priori (o sea
sin ninguna información previa)
es:
20/07/2015
INAOE
139
Probabilidad condicional
 Probabilidad condicional:
 Ejemplo: Como las bolas se
van sacando a la vez,
podemos calcular cómo se
modifica tu probabilidad de
ganar a medida que salen las
nuevas bolas…
 Supongamos que ya se sacó
1 bola, y que tu tienes ese
número. Ahora tus
posibilidades aumentan.
20/07/2015
INAOE
140
Probabilidad condicional
 Probabilidad
condicional:
 Ejemplo: Definamos un
evento B que sea que el
número sacado es x=15
20/07/2015
INAOE
141
Probabilidad condicional
 Probabilidad
condicional:
 Ejemplo: …¡y tu tienes el
15!
20/07/2015
INAOE
142
Probabilidad Condicional
 Ley de probabilidad total:
 Sean un conjunto de eventos B1, B2, …, Bn
que son una partición de S (léase, disjuntos y
tales que su unión es el espacio de muestra
S; ∪Bi=S) tales que Pr(Bi)>0. Entonces, para
cualquier evento A⊂S:
S
B4
B2
B1
B5
A
B3
20/07/2015
INAOE
143
Eventos independientes
 Dos eventos A y B son independientes si
conocer la ocurrencia (o no) de B no altera
la probabilidad de A.
 Formalmente; dos eventos A y B son
independientes si: Pr(A⋂B)=Pr(A)Pr(B); en
otras palabras:
20/07/2015
INAOE
144
Eventos independientes
Eventos independientes
Eventos disjuntos
A:El primer dado ha sacado un 3
B: El segundo dado ha sacado un 3
C: La suma de los dos dados es 5
D: Ambos dados han sacado el mismo número
Saber que un dado ha sacado un 3 (A), no
nos dice NADA sobre la que va a sacar el
otro dado (B)
Saber que la suma de los dos dados es 5, nos
permite saber que los dados no han podido
obtener el mismo número; y por tanto C y D
son disjuntos, pero no independientes.
20/07/2015
INAOE
145
Eventos independientes
Diferencias entre eventos disjuntos y eventos independientes
Video:
5:33mins
http://www.youtube.com/watch?v=0Vqmkpr1grA
20/07/2015
INAOE
146
Eventos independientes
 Ejercicio: ¿Pueden dos eventos A y B ser a la
vez disjuntos e independientes?
Solución:
Si, pero sólo en el caso trivial cuando Pr(A)=0 o Pr(B)=0.
Aunque Pr(∅)=0, recuerda que el hecho de Pr(A)=0 no significa que A=∅
20/07/2015
INAOE
147
Propiedades
 Si A y B son independientes, entonces:
 Ac y B son independientes
 A y Bc son independientes
 Ac y Bc son independientes
20/07/2015
INAOE
148
Eventos independientes
 Un conjunto de eventos A={A1, …, An} son
independientes si para cada subconjunto
j⊂A tal que j={A1j, …, Aij} se cumple que
Pr(A1j⋂… ⋂ Aij)=Pr(A1j)…Pr(Aij)
20/07/2015
INAOE
149
Eventos independientes
 Ejemplo: Los eventos A, B y C son
independientes si:
 Pr(A⋂B) = Pr(A) ⋅ Pr(B)
 Pr(A⋂C) = Pr(A) ⋅ Pr(C)
 Pr(B⋂C) = Pr(B) ⋅ Pr(C)
 Pr(A⋂B⋂C) = Pr(A) ⋅ Pr(B) ⋅ Pr(C)
20/07/2015
INAOE
150
Teorema de Bayes
Británico)
 Recommended reading:
20/07/2015
INAOE
Imagen de Wikipedia
 Thomas Bayes (1701-1761,
151
Teorema de Bayes: Tutoriales en la web
 An intuitive explanation of Bayes’ Theorem
 [http://yudkowsky.net/rational/bayes]
 Esta introducción es buena pero requiere un poco de
nivel de conocimiento previo.
 An even more intuitive explanation of Bayes’
Theorem
 Algo más asequible que la anterior…
 [http://commonsenseatheism.com/?p=13156]
 “Seeing the world through the lens of Bayes’ Theorem
is like seeing The Matrix. Nothing is the same after
you have seen Bayes.”
 Esta frase se me hizo simpática, pero no tiene interés para la
asignatura 
20/07/2015
INAOE
152
Teorema de Bayes
 ¿Por qué es necesario/conveniente?
 Supón que estudias un fenómeno cualquiera, del que


conoces la probabilidad de que ocurra un evento
… y adquieres una nueva observación.
No reemplazas la información que ya tenías con la nueva,
 La probabilidad que ya conocías también estaba basada en

evidencia (observaciones anteriores), y por tanto sigue siendo
válida
A esta probabilidad que conocías anteriormente se le llama a
priori.
 …en lugar de eso, actualizas la información que tienes
desplazando la probabilidad original previa (a priori) en
una u otra dirección añadiendo la nueva información
 La nueva probabilidad resultante de esta actualización es a
posteriori.
20/07/2015
INAOE
153
Teorema de Bayes
 Supón que ya habías obtenido 30
muestras de tu fenómeno, de las cuales
22 son casos favorables.
 Pr(A) = 22/30 = 0.73 (Probabilidad a priori)
 Obtienes una nueva observación
(negativa)
 Reemplazo: Eso no significa que ahora
tengas Pr(A)=0/1
 Actualización: Ahora tienes Pr(A)=22/31 =
0.70 (Probabilidad a posteriori)
20/07/2015
INAOE
154
Teorema de Bayes
 ¿Qué ocurre cuando las probabilidades
que conoces están dadas en función de
otros eventos (o sea, probabilidades
condicionales)?
 Veamos un ejemplo/ejercicio un poco más
complejo…
20/07/2015
INAOE
155
Teorema de Bayes
 Ejercicio:
 100 de cada 10,000 mujeres que se hacen un estudio de



mamografía tienen cáncer de mama.
80 de cada 100 mujeres con cáncer de mama dan positivo
en una mamografía.
950 de cada 9,900 mujeres sin cáncer de mama dan
positivo en una mamografía. (Falsos positivos*)
Si 10000 mujeres se hacen una mamografía, ¿qué
fracción de estas mujeres que dan positivo en el análisis
realmente tendrán cáncer?
 Pistas:
 Recuerda la fórmula general en probabilidad:

#favorables/#totales
El ejercicio se puede resolver sin conocer el teorema de
Bayes
Ejemplo adaptado de Muehlhauser 2010: http://commonsenseatheism.com/?p=13156
* Falsos positivos es un concepto que aprenderemos
en detalle un poco más adelante
20/07/2015
INAOE
156
Teorema de Bayes
 Solución razonada 1:
 Una probabilidad cualquiera es simplemente la


fracción Pr(X) = #favorables/#totales
Para resolver la pregunta debemos por tanto buscar
el numerador y el denominador de esta fracción:
Denominador: El número de casos totales son el
número de mujeres en total que dan positivo en una
mamografía
 Observa que no son 10000 como se podría intuir
candidamente del enunciado.
 Según el enunciado de las 10000, 950 de 9900 darán
positivo aunque no tengan cáncer, y además 80 de 100
darán positivo si tienen cáncer:
 #Total de positivos = Positivos sin cáncer + Positivos con
cáncer = (950+80)/(9900+100) = 1030/10000
20/07/2015
INAOE
157
Teorema de Bayes
 Solución razonada 1:
 Numerador: Este es más sencillo por que lo da
el enunciado directamente:
 80 de cada 100 mujeres con cáncer dan positivo en la
mamografía
 Esto también se puede leer cómo que 80 mujeres que
darán positivo en la mamografía, tienen cáncer
 ...así pues 80 es nuestro numerador
 Por tanto: ¿qué fracción de mujeres que dan
positivo en el análisis realmente tendrán cáncer?
 80/1030 = 0.0776 ⋍ 7.8%
20/07/2015
INAOE
158
Teorema de Bayes
 Solución general 2:
 Sean los eventos
 A: Tener cáncer
 B: Dar positivo en la mamografía
 El enunciado nos da:
 P(A) = 100/10000 = 0.01
 P(B|A) = 80/100 = 0.8
 P(B|~A) = 950/9900 = 0.0959
20/07/2015
INAOE
159
Teorema de Bayes
 Solución general 2:
 El espacio de muestra es:
 S=A+~A=100+9900=10000
 Casos totales: La probabilidad de dar positivo en la
mamografía (se tenga o no cáncer) es
 P(B) = (80+950)/(100+9900)= 1030/10000= 0.103
 Casos favorables: La probabilidad de dar positivo en la
mamografía, DADO QUE se tiene cáncer es:
 P(B|A)*P(A) = 0.01 * 0.8 = 0.008
 Por tanto, la probabilidad de tener cáncer SI has dado
positivo en la mamografía:
 P(A|B) = P(B|A)*P(A)/P(B) = 0.0776 = 7.76%
20/07/2015
INAOE
160
Teorema de Bayes
 Teorema de Bayes
 Esta es la fórmula simplificada; la práctica
para el día a día, la que veréis en todos
lados…
 …pero el teorema de Bayes, es un poco más
general…
20/07/2015
INAOE
161
Teorema de Bayes
 Teorema de Bayes: Fórmula General
 Sean los eventos B1, …, Bk una partición de S tal
que Pr(Bj)>0 para j=1…k, y sea A un evento
definido sobre S tal que Pr(A)>0. Entonces para
i=1…k:
 Puedes encontrar la demostración en
[DeGroot 2012, Teorema 2.3.1, pg 77]
20/07/2015
INAOE
162
¿Y para qué me sirve a mi en mi maestría?
Si vas a trabajar en:
Ejemplos
Clasificación, reconocimiento de
patrones, minería de datos y/o
textos, recuperación de la
información, etc
Redes Bayesianas, Modelos gráficos probabilistas,
clasificadores en general*, etc
Hardware, PGAs, etc
Propagación de errores, análisis de fiabilidad, etc
Bioseñales y computación médica
Ver ejemplo anterior. Este es tu pan nuestro de
cada día
…y por supuesto, procesamiento /análisis
/interpretación de imágenes
Robótica
Propagación de evidencia en tiempo real,
reajustes a la trayectoria del robot, navegación,
etc
Computación científica
Esta es más difícil… posiblemente, en este caso
estas a salvo de Bayes pero no soy un experto…así
que quién sabe.
Redes
Enrutamiento, Fallas en las comunicaciones, etc
20/07/2015
* En general una clasificación no es más que una probabilidad
condicional P(atributos|clase)
INAOE
163
GRACIAS, ¿PREGUNTAS?
20/07/2015
INAOE
164

similar documents