statistiek en data analyse

Statistiek & Data Analysis Academiejaar 2019–2020

Docent: Professor Dr. I. Gijbels Departement wiskunde Afdeling Statistiek en Risocobeheer KU Leuven

Inhoudstafel Betreffende deze cursus

0

1 Inleiding: doel van de statistiek

1

2 Beschrijvende statistiek

3

3 Kansen en toevalsvariabelen

16

4 Univariate kansmodellen

21

5 Schatters en hun verdelingen

24

6 Univariate inferentie

25

7 Bivariate kansmodellen

28

8 Bivariate inferentie

30

9 Lineaire regressie

31

Oefenzittingen

37

Zelfstudiepakketten

41

Projectwerk

42

Betreffende deze cursus Deze cursus heeft tot doel de basisbegrippen van statistiek bij te brengen en inzicht te laten verwerven in de statistische methodes voor data-analyse en het gebruik ervan in wetenschappelijke disciplines. De focus ligt op een concreet en correct gebruik van de statistische technieken. Een onderdeel van deze cursus is ook om de studenten vertrouwd te maken met statistische software. Na het uitvoeren van een data analyse met statistische software moet de student ook in staat zijn, na het doorlopen van de cursus, om op een gepaste en nauwkeurige wijze te rapporteren over de resultaten van de statistische analyse.

Een onderdeel van de evaluatie is dan ook een projectwerk.

Voor het aanleren van de statistische software wordt er een infosessie rond de R software gegeven. Het verdere aanleren van de software gebeurt stapsgewijs via een introductiedocument en zelfstudiepakketten waarvoor ruimte voor toelichting wordt gegeven tijdens bepaalde oefenzittingen.

De oefenzittingen hebben tot doel om de student vertrouwd te maken met het toepassen van de statistische procedures. Voorbeelden van een aantal oefeningen worden gegeven achteraan dit kort overzicht.

Tijdens de hoorcolleges wordt er gebruik gemaakt van slides waarvan er in dit document ook een extractie van wordt getoond. Informatie rond bijkomend leesmateriaal wordt gegeven bij de start van het semester. Tijdens de hoorcolleges worden concepten vaak eerst ingeleid via voorbeelden, om dan een bredere formulering te geven. Naast de veelheid aan voorbeelden worden er ook nu en dan kleine oefeningen gemaakt.

Een formularium wordt ter beschikking gesteld; de student mag dit gebruiken bij de examens.

In dit document wordt de inhoudstafel van de cursus gegeven alsook een extractie van een aantal slides voor een aantal hoofdstukken, en de opgaven van een aantal oefeningen die gemaakt worden in de loop van het semester. Op deze manier hopen we jullie een idee te geven van deze cursus.

0

Hoofdstuk 1 Inleiding: doel van de statistiek In een inleiding wordt er via een aantal voorbeelden uit de actualiteit van de afgelopen jaren, duidelijk gemaakt wat het doel is van deze cursus. Ook worden aan de hand van deze voorbeelden al een aantal basisbegrippen aangebracht. Een greep uit onderwerpen van de afgelopen jaren: “Driekwart van Vlaamse jongeren heeft soms last van oorsuizen” “Nieuw onderzoek: grotere mensen hebben hoger risico op kanker” “Komen er meer orkanen voor de laatste decennia?”

Aan de hand van de voorbeelden wordt ook al aangehaald wat de verschillende onderdelen zijn in de cursus. Het volgende overzicht geeft een idee over welke verschillende onderdelen nodig zijn in het geheel van de statistische analyses, en hoe deze deel uitmaken van het geheel.

1

Steekproef

??

Population Toevalsvariable X

Beschrijvende statistiek

Data collectie

Berekenen van kansen

Kansmodellen

 Welk kansmodel is gepast?  Welke zijn de parameters van het model?  Puntschattingen; BI; toetsen van hypothesen  ……………..

Statistische inferentie

Hoofdstuk 2 Beschrijvende statistiek Het doel van beschrijvende statistiek is gegevens (bijvoorbeeld uit een steekproef) op een duidelijke en verantwoorde manier voorstellen en samenvatten. Voor alle metingen van een variabele wordt gekeken naar hoe vaak ze voorkomen (de frequenties) en worden die frequenties in tabellen weergegeven. Grafische methoden om de gegevens samenvattend voor te stellen komen aan bod: staafdiagrammen en histogrammen, alsook samenvattende numerische getallen (steekproefgemiddelde, steekproefmediaan, steekproefstandaardafwijking, steekproefcorrelatie...). Ook de boxplot als grafische voorstelling komt aan bod. Om verbanden tussen meerdere variabelen te achterhalen worden gegevens weergegegeven met puntenwolken en kruistabellen.

3

Het ‘Titanic’ verhaal en de data ●

data ivm de Titanic kan je vinden op, bijvoorbeeld, https://dasl.datadescription.com/datafile/titanic/?_sf_s= Titanic&_sfm_cases=4+59943

●

gegevens ivm 2 208 opvarenden, en mbt 14 variabelen

nummer kolom of variabele 1 2 3 4 5 6 7 8 9 10 11 12 13 14

●

benaming variabele

beschrijving

Name Survived Boarded Class MWC Age Adut− or− Chld Sex Paid Ticket− No Boat− or− Body Job Class− Dept Class− Full

Naam van de opvarende heeft het overleefd of niet (2 niveau’s): “Alive” or “Dead” waar aan boord gekomen (Belfast, Southampton, Cherbourg of Queenstown) ticket in welke Klasse (1, 2, 3 of ‘Crew’) M=‘man’, W=‘Woman’, C= ‘Child’ leeftijd van de passagier (uitgedrukt in jaren) 2 niveau’s: ‘Adult’, of ‘Child’ ’Female’ of ‘Male’ prijs betaald voor het ticket (in Britse Ponden) nummer van het ticket plaats waar het lichaam werd gevonden de taak van het bemanningslid meer gedetailleerd gegeven rond klasse passagier en locatie crew een meer gedetailleerde “Class”variabele

dit geeft dus een gegevens matrix van 2 208 rijen en 14 kolommen

I. Gijbels (KU Leuven)

G0N11C-STATISTIEK & DATA-ANALYSE

7 / 117

De ‘Titanic’ data ●

● ● ● ●

we werken met een gereduceerde versie van de data; na verwijdering van “Name”, de kolom met de namen van slachtoffers (!), en het verwijderen van een aantal niet zo relevante variabelen zoals “Ticket− No”, “Boat− or− Body” en “Job” dan blijft er nog een matrix over van 2 208 rijen en 10 variabelen voor sommige opvarenden zijn bepaalde gegevens niet beschikbaar (bv voor ‘Crew’ leden is er geen betaling van tickets, dus een missing waarde voor de variabele “Paid”) voor onze beperkte analyse hier, beperken we ons tot de opvarenden die geen lid van de bemanning zijn je vindt deze gereduceerde data op Toledo, in de bestanden Titanic.txt of Titanic.cvs ... (zie Documenten → Zelfstudiepakketten

→ Datasets)

● deze gereduceerde matrix van gegevens bevat 1 315 rijen en 10 kolommen

I. Gijbels (KU Leuven)

G0N11C-STATISTIEK & DATA-ANALYSE

8 / 117

De‘Titanic’, de data en beschrijvende statistiek hiervan je kan in de data set bijvoorbeeld eens opvragen wat de minimum en maximum prijs was betaald door de opvarenden: minimum van ‘Paid’ = 0 Britse Ponden (gdp) maximum van ‘Paid’ = 512,329 Britse Ponden (gdp) ◇ tickets per klasse schommelden rond de volgende bedragen: 13 gdp voor een derde klasse ticket 20 gdp voor de tweede klasse 87 gdp voor de eerste klasse ◇ ◇

om tijdens de overtocht in een van de grootste suites te verblijven, moest men echter heel wat geld neertellen er reisden ook heel wat passagiers mee in lage klassen (grote groepen emigranten in die tijd, die emigreerden naar de VS)

I. Gijbels (KU Leuven)

G0N11C-STATISTIEK & DATA-ANALYSE

9 / 117

Frequenties Hoe zijn de uitkomsten van een variabele in een (steekproef)groep verdeeld ?

We vertrekken dus van de metingen x1 , . . . , xn voor een bepaalde variabele. De bedoeling is dan om een antwoord te formuleren op vragen als: ▸ Zijn de gegevens ongeveer gelijk, of sterk verschillend? ▸ Indien sterk verschillend, hoe sterk? ▸ Op welke manier verschillen ze?

▸ Kunnen we patronen of trends terugvinden?

▸ Zijn er meerdere subgroepen of clusters te onderkennen? ▸ Verschillen enkele getallen sterk van de andere?

I. Gijbels (KU Leuven)

G0N11C-STATISTIEK & DATA-ANALYSE

10 / 117

Frequentietabellen voor kwalitatieve variabelen Kwalitatieve variabele: de uitkomstenverzameling is dan van de vorm S = {m1 , . . . , mk }.

De absolute frequentie fj van de uitkomst mj is gelijk aan het aantal uitkomsten xi in de steekproef die gelijk zijn aan mj .

De relatieve frequenties: fj /n.

Uiteraard geldt dan dat k

fj f1 f2 fk ∑ = + + . . . + = 1. n n n j=1 n

Deze frequenties kunnen samengevoegd worden in een frequentietabel.

I. Gijbels (KU Leuven)

G0N11C-STATISTIEK & DATA-ANALYSE

11 / 117

Normale verdelingsvorm Titanic data set ▸ Leeftijd van passagiers, apart voor eerste en tweede klasse 0.03

Frequentiedichtheid

Frequentiedichtheid

0.02

0.01

0.02

0.01

0.00 0.00

0 0

20

40

60

20

80

40

60

80

Leeftijd Klasse 2

▸ Het histogram is niet de meest aangewezen techniek om normaliteit na te gaan!

Leeftijd Klasse 1

De vraagstelling ivm een normale verdelingsvorm nemen we op in Hoofdstuk 4 (zie Normale kwantielplot) en in Hoofdstuk 6 (Testen van normaliteit).

I. Gijbels (KU Leuven)

G0N11C-STATISTIEK & DATA-ANALYSE

29 / 117

Nog wat meer voorstellingen met boxplots

(a)

(b) 500

60 400

Betaald

Leeftijd

300 40

200

20 100

0

0 1

2

3

Alive

Dead

Klasse

Figuur: Boxplots van (a) ‘Leeftijd’ per Klasse en (b) ‘Paid’ voor de groep van overlevenden en de groep van niet-overlevenden.

I. Gijbels (KU Leuven)

G0N11C-STATISTIEK & DATA-ANALYSE

82 / 117

Frequentiedichtheid

Nog wat meer voorstellingen met boxplots 0.02

0.01

0.00 0

20

40

60

40

60

80

0.4

0.2

0.0

−0.2

−0.4 0

20

80

Leeftijd klasse 1

Figuur: Histogram tezamen met boxplot van ‘Leeftijd’ van Klasse 1 passagiers. enkele samenvattende statistieken minimum 1ste kwartiel mediaan 0.92 29.00 39.00 gemiddelde = 39.09 jaar I. Gijbels (KU Leuven)

derde kwartiel maximum 48.00 71.00 standaard deviation = 13.63 jaar

G0N11C-STATISTIEK & DATA-ANALYSE

83 / 117

Nog wat meer voorstellingen met boxplots Frequentiedichtheid

0.015

0.010

0.005

0.000 0

200

400

Betaald 0.4

0.2

0.0

−0.2

−0.4 0

100

200

300

400

500

Paid

Figuur: Histogram tezamen met boxplot van ‘Paid’. enkele samenvattende statistieken minimum 1ste kwartiel mediaan 0.000 7.896 14.400 gemiddelde = 33.05 gbp I. Gijbels (KU Leuven)

derde kwartiel maximum 31.137 512.329 standaard deviation = 51.96 gbp

G0N11C-STATISTIEK & DATA-ANALYSE

84 / 117

De ‘Titanic’ en de reddingsboten

tijdstip tewaterlating

nominale capaciteit

00.45 00.55 00.55 01.00 01.10 01.10 01.20 01.20 01.25 01.25 01.30 01.35 01.35 01.35 01.40 01.45 01.55 02.05 02.17 02.17

65 65 65 65 40 65 65 65 65 65 65 65 65 65 47 40 65 47 47 47

I. Gijbels (KU Leuven)

inzittenden bij tewaterlating 28 28 41 40 12 28 55 56 70 43 60 56 64 70 39 25 40 44 12* 12**

G0N11C-STATISTIEK & DATA-ANALYSE

93 / 117

De ‘Titanic’ en de reddingsboten

● ● ●

efficientie capaciteitsgebruik= gebruikte capaciteit / nominale capaciteit indien deze maat kleiner is dan 1 dan werd de capaciteit van de reddingsboot niet ten volle benut ... we vragen ons af er er een evolutie is in het efficient gebruik van de reddingsboten naargelang de tijd verstreek na de ramp ....

I. Gijbels (KU Leuven)

G0N11C-STATISTIEK & DATA-ANALYSE

94 / 117

De ‘Titanic’ en de reddingsboten Boat launching time and load−efficiency ●

1.0

●

● ●

● ●

●

0.8

●

● ●

0.6 0.4

Life boat load−efficiency

●

●

●

●

●

●

●

● ● ●

0.5

1.0

1.5

2.0

Life Boat launching time

positieve associatie tussen de tijd en de efficientie capaciteitsgebruik opmerkelijk zijn de 2 data punten rechts onder in de scatter plot I. Gijbels (KU Leuven)

G0N11C-STATISTIEK & DATA-ANALYSE

95 / 117

Hoofdstuk 3 Kansen en toevalsvariabelen Dit hoofdstuk focust op toevalsvariabelen en het berekenen van kansen geassocieerd hieraan. De belangrijkste kansregels worden aangeleerd, en concepten zoals onafhankelijkheid van gebeurtenissen en voorwaardelijke kans zijn belangrijke elementen hier. De principes van de wet van de totale kans en de regel van Bayes worden uitgelegd. Het accent ligt vooral op het nut en de toepassing van de kansregels en de wetmatigheden in concrete situaties.

16

Voorwaardelijke kansen

Regel van Bayes P(A1 ∣ B) = =

P(B ∣ A1 )P(A1 ) P(B) B ∣ A1 )P(A1 ) P(B ∣ A1 )P(A1 ) + . . . + P(B ∣ Ak )P(Ak )

▸ deze regel wordt vaak in de volgende vorm gebruikt: P(A ∣ B) = =

P(B ∣ A)P(A) P(B) P(B ∣ A)P(A) P(B ∣ A)P(A) + P(B ∣ Ac )P(Ac )

▸ P(A) noemen we de a priori kans op A ▸ P(A ∣ B) is de a posteriori kans

I. Gijbels (KU Leuven)

G0N11C-STATISTIEK & DATA-ANALYSE

36 / 70

Voorwaardelijke kansen

Regel van Bayes Oefening

Oefening 4: betrouwbaarheid van een medische test Een medische test werd ontwikkeld om te detecteren of iemand lijdt aan een weinig voorkomende ziekte (de kans dat een persoon aan deze ziekte lijdt bedraagt 0.0001). Wanneer iemand aan deze ziekte lijdt, zal de test in 99% van de gevallen een positief resultaat geven, bij een gezond persoon geeft de test in 95% van de gevallen een correct (negatief) resultaat. Bereken de kans dat iemand aan deze ziekte lijdt bij een positief testresultaat.

I. Gijbels (KU Leuven)

G0N11C-STATISTIEK & DATA-ANALYSE

37 / 70

Voorwaardelijke kansen

Regel van Bayes Oplossing

Oefening 4: bekijk de volgende gebeurtenissen en kansen ▸ A: persoon lijdt aan de ziekte, P(A) = 0.0001 ▸ B: test detecteert ziekte, P(B ∣ A) = 0.99 ▸ P(B c ∣ Ac ) = 0.95

I. Gijbels (KU Leuven)

G0N11C-STATISTIEK & DATA-ANALYSE

38 / 70

Voorwaardelijke kansen

Regel van Bayes Oplossing

Oefening 4: bekijk de volgende gebeurtenissen en kansen ▸ A: persoon lijdt aan de ziekte, P(A) = 0.0001 ▸ B: test detecteert ziekte, P(B ∣ A) = 0.99 ▸ P(B c ∣ Ac ) = 0.95 P(A ∣ B) = =

= =

P(B ∣ A)P(A) P(B) P(B ∣ A)P(A) P(B ∣ A)P(A) + P(B ∣ Ac )P(Ac ) 0.99 × 0.0001 0.99 × 0.0001 + (1 − 0.95) × (1 − 0.0001) 0.002

slechts kans van 2 op 1 000 dat de persoon de ziekte heeft ...

I. Gijbels (KU Leuven)

G0N11C-STATISTIEK & DATA-ANALYSE

38 / 70

Hoofdstuk 4 Univariate kansmodellen Na het bespreken van wat bedoeld wordt met een kansmodel, worden enkele klassieke kansmodellen besproken. Hierbij wordt het onderscheid gemaakt tussen kansmodellen voor continue toevalsvariabelen en discrete toevalsvariabelen. Voor elk kansmodel is het belangrijk om te weten in welke situatie zo een model gepast zou kunnen zijn. Verder komen de belangrijkste eigenschappen van univariate dichtheidsfuncties, verdelingsfuncties en kwantielfuncties aan bod, en hoe deze te hanteren om kansen te berekenen of kenmerken van een toevalsvariabele. Onder de meest belangrijke verdelingen die in detail besproken worden zijn de normale verdeling en de binomiaalverdeling.

21

Discrete verdelingen

Discrete toevalsvariabelen X een discrete toevalsvariabele die de waarden m1 , m2 , . . . , mk kan aannemen ▸ uitkomstenverzameling S = {m1 , . . . , mk } ▸ kansdichtheid P(X = mj ) met

▸ P(X = mj ) ⩾ 0 voor alle j = 1, 2, 3, ..., k

▸ ∑ P(X = mj ) = 1 mj ∈S

wat zijn veelgebruikte discrete verdelingen ? ● ● ●

Bernoulli verdeling Binomiaalverdeling Poisson verdeling

● ● ● ●

Geometrische verdeling Negatief binomiaalverdeling Hypergeometrische verdeling ...

in welke situaties worden die verdelingen gebruikt ?

I. Gijbels (KU Leuven)

G0N11C-STATISTIEK & DATA-ANALYSE

3 / 93

Continue verdelingen en kansmodellen

Continue toevalsvariabelen zij X een continue toevalsvariabele met dichtheidsfunctie f f (x) ≥ 0

∀x ∈ S

∫ f (x) dx = 1 S

wat zijn veelgebruikte continue verdelingen ? ● ●

● ● ●

● ● ●

Normale verdeling Exponentiële verdeling Weibull verdeling Chi-kwadraat verdeling F - verdeling Lognormale verdeling t-verdeling ...

I. Gijbels (KU Leuven)

G0N11C-STATISTIEK & DATA-ANALYSE

27 / 93

Hoofdstuk 5 Schatters en hun verdelingen Met dit hoofdstuk komen we terecht in het echte statistiek gedeelte, waarbij we uitgaande van een steekproef iets proberen te weten te komen (te concluderen) over het geheel van de populatie. Een beginpunt hierbij is het schatten van parameters van een verdeling – bv het gemiddelde of de variantie van een normale verdeling, of de succeskans bij een binomiale verdeling – uitgaande van de gegevens in de steekproef. Een belangrijke tool die in dit hoofdstuk aan bod komt is de centrale limietstelling. Veel belang wordt gehecht aan het toepassen van de centrale limietstelling in concrete toepassingen.

24

Hoofdstuk 6 Univariate inferentie Met dit hoofdstuk komen we in het belangrijke onderdeel van de statistische besluitvorming: hoe uit gegevens op inductieve manier proberen informatie in te winnen over een hele populatie. Essentiele onderdelen zijn: puntschattingen, opstellen van betrouwbaarheidsintervallen, hypothesetesten, ... Het accent ligt op concrete toepassingen, en het correct gebruik van de statistische methodes (bv welke voorwaarden moeten voldaan zijn opdat ik deze mag gebruiken?), een juist interpreteren en formuleren van de resultaten en een correct formuleren van een besluit.

25

Inleiding

Puntschattingen, betrouwbaarheidsintervallen en testen van hypothesen kansmodel: hangt af van een parameter θ gebaseerd op een steekproef willen we besluiten trekken ivm de ongekende parameter θ (en dus het kansmodel) ● op basis van steekproefresultaten proberen we een benadering te bekomen

van de ongekende parameter θ

Ô⇒ puntschattingen

● in welk interval ligt de ongekende parameter met grote kans?

we willen een kansuitspraak over hoe ver de ongekende parameter maximaal kan liggen van de bekomen benadering bij de puntschatting

betrouwbaarheidsintervallen

Ô⇒

● we willen nagaan of een bepaalde vooropgestelde hypothese met betrekking

tot de parameter, kan ondersteund worden door de steekproefgegevens of niet

Ô⇒ testen van hypothesen (beslissingsprobleem)

I. Gijbels (KU Leuven)

G0N11C-STATISTIEK & DATA-ANALYSE

2 / 94

Inleiding

komen aan bod in dit hoofdstuk ●

betrouwbaarheidsinterval voor een gemiddelde van een normale verdeling

●

testen (toetsen) omtrent het gemiddelde van een normale verdeling

●

testen van normaliteit

●

testen (toetsen) omtrent de mediaan van een continue toevalsvariabele

●

inferentie (of besluitvorming) rond een proportie

●

betrouwbaarheidsinterval voor de mediaan van een continue toevalsvariabele

I. Gijbels (KU Leuven)

G0N11C-STATISTIEK & DATA-ANALYSE

3 / 94

Hoofdstuk 7 Bivariate kansmodellen Na het leggen van de basis in univariate kansmodellen en univariate inferentie, wordt de stap gezet naar bivariate kansmodelen. Bijkomende concepten zoals gezamenlijke verdeling, marginale verdelingen, voorwaardelijke verwachtingswaarden, ...., komen hier aan bod, alsook onafhankelijkheid van variabelen en correlaties tussen variabelen.

28

Gezamenlijke uitkomsten en gezamenlijke verdelingen ● ●

●

in het deel ‘Beschrijvende statistiek’ onderzochten we mogelijkse associaties tussen twee variabelen X en Y , op niveau van de steekproef in dit hoofdstuk onderzoeken we mogelijke verbanden tussen twee toevalsvariabelen, X en Y , voor de populatie voor twee toevalsvariabelen X en Y ●

●

●

●

● ●

hoe beschrijven we het toevalsmechanisme dat de gezamenlijke uitkomsten van (X , Y ) beschrijft ? hoe meten we de associatie tussen twee toevalsvariabelen X en Y ? wanneer zeggen we dat twee toevalsvariabelen X en Y onafhankelijk zijn? ... ...

we kijken naar bivariate kansmodellen

I. Gijbels (KU Leuven)

G0N11C-STATISTIEK & DATA-ANALYSE

2 / 45

Hoofdstuk 8 Bivariate inferentie Hier wordt de stap van univariate naar bivariate inferentie gezet. Een greep uit de soort onderzoeksvragen die hier kunnen aan bod komen wordt geı̈lustreerd door de volgende voorbeelden; * Is een nieuw ontwikkeld medicijn efficiënter dan het oude medicijn? * Is er een verschil in het stemgedrag bij federale verkiezingen tussen mannen en vrouwen? * Een firma beweert dat haar producten minder defecten vertonen dan gelijkaardige producten aangemaakt door de concurrent. Kunnen we deze bewering ondersteunen met onze opmetingen? * De overheid wil nagaan hoe effectief de genomen maatregelen zijn. Aan de hand van gegevens die verzameld werden voor en na de invoering van de maatregelen zal dit nagegaan worden.

30

Hoofdstuk 9 Lineaire regressie Hier wordt ingezoomd op een linear verband tussen variabelen, in de vorm van een linear regressiemodel. Centraal staat hier de kleinste kwadratenmethode, die toelaat de rechte te vinden die het nauwst aansluit bij een gegeven puntenwolk, en ons ook in staat zal stellen een predictie gebaseerd hierop te maken. Voorbeelden van onderzoeksvragen die via deze materie aan bod kunnen komen zijn: * Hoeveel meststof moet een landbouwer gebruiker om een verwachte opbrengst van minstens x kilo te hebben op zijn perceel? * Is er een linear verband tussen het aanwezig zijn tijdens hoorcolleges/oefenzittingen en de resultaten op de examens, bij een bepaald vak? * Is er een lineair verband tussen de hoeveelheid eiwitten en het aantal calorieën in porties cornflakes?

31

Linear verband tussen twee variabelen

Pearson correlatiecoëfficiënt ●

●

zij X en Y twee toevalsvariabelen een maat om de sterkte van een linear verband tussen X en Y uit te drukken is de Pearson correlatiecoëfficiënt E ((X − E (X ))(Y − E (Y ))) √ = ρ(X , Y ) = √ Var(X )Var(Y ) Var(X )Var(Y ) Cov(X , Y )

●

in dit hoofdstuk stellen we dit linear verband expliciet op ●● ●● ●●

hoe stellen we een regressierechte op? hoe gebruiken we die om voorspellingen te maken? hoe voeren we testen uit ivm de regressieparameters en wat leren we hieruit? ●● hoe gaan we de assumpties van het regressiemodel na?

I. Gijbels (KU Leuven)

G0N11C-STATISTIEK & DATA-ANALYSE

2 / 34

Kleinste-kwadratenmethode

De kleinste-kwadratenmethode

I. Gijbels (KU Leuven)

G0N11C-STATISTIEK & DATA-ANALYSE

4 / 34

Kleinste-kwadratenmethode

hoe kunnen we de vergelijking van de rechte y = a + bx bepalen? ▸ we zoeken schattingen α̂ en β̂ voor a en b ▸ dat doen we op basis van de puntenwolk (x1 , y1 ), . . . , (xn , yn )

▸ zoek α̂ en β̂ zodat de totale kwadratische afstand van de punten tot de rechte minimaal is, maw dat er een minimale spreiding is

▸ beschouw een rechte y = a + bx, en voor elk punt (xi , yi ) bekijken we de afwijking tot die rechte ▸ het verticale verschil tussen de geobserveerde waarde yi en de y -waarde op de rechte voor x = xi noemen we het residu: y= a +bx

a+bx3

●

e3 y3 y1 a+bx2

a+bx1

●

●

ei = yi − (a + bxi )

notatie: ei (a, b)

y2

x1

I. Gijbels (KU Leuven)

x2

x3

G0N11C-STATISTIEK & DATA-ANALYSE

5 / 34

Kleinste-kwadratenmethode

we zoeken de rechte die minimale spreiding geeft

70 o

200

300

400

500

600

o

o

500

600

Ychap3

40

40

o

o

100

o

50

60

o

yield: observed and fitted values

o

o

o

60

70

o

50

yield: observed values and several fitted lines

(b) Influence of fertilizer on the yield: least squares regression line 80

80

(a) Several linear functions superimposed

700

o

o

100

dose of fertilizer (in kg/ha)

o Y3

200

300

400

700

dose of fertilzer (in kg/ha)

Figuur: Meerdere rechten door een puntenwolk; rechts: de rechte met minimale spreiding. ●

kleinste-kwadratenmethode (least squares method): zoek de waarden van a en b waarvoor de som van de gekwadrateerde residu’s

minimaal is I. Gijbels (KU Leuven)

n

n

i=1

i=1

2 2 ∑ ei (a, b) = ∑ (yi − (a + bxi ))

G0N11C-STATISTIEK & DATA-ANALYSE

6 / 34

Kleinste-kwadratenmethode

●

kleinste-kwadratenmethode: zoek a en b waarvoor de som van de gekwadrateerde residu’s

minimaal is ●

n

n

i=1

i=1

2 2 e (y − (a + bx )) (a, b) = ∑ i ∑ i i

de oplossing van dit minimalisatieprobleem is β̂ =

sy ∑ni=1 (yi − ȳ )(xi − x̄) sxy = 2 = rxy n 2 sx sx ∑i=1 (xi − x̄)

α̂ = ȳ − β̂ x̄

want rxy

sxy = sx sy

(hoe te komen aan die uitdrukkingen: niet te kennen)

I. Gijbels (KU Leuven)

G0N11C-STATISTIEK & DATA-ANALYSE

7 / 34

Oefeningen Hieronder wordt een kleine selectie gegeven van opgaven van oefeningen die aan bod komen in de oefenzittingen. Studenten werken zelfstandig aan de oefeningen en kunnen hulp inroepen van de assistent indien nodig. Voor elke oefenzitting wordt ook gevraagd om een paar eenvoudige oefeningen voor te bereiden.

9.1 De onderstaande tabel geeft de proportie van de Belgische werkende bevolking weer die respectievelijk vóór of tegen de aanschaffing is van het gebruik van beide, zomertijd en wintertijd (‘day saving time’):

Man Vrouw

Vóór 0.32 0.36

Tegen 0.15 0.17

1. Wat is de kans dat een willekeurig gekozen werkende belg vóór het afschaffen van zomer-en wintertijd is?

2. Als men een man kiest, wat is de kans dat hij voor het afschaffen is?

3. Als men een vrouw kiest, wat is de kans dat zij voor het afschaffen is?

9.2 Uit een studie van een Brits onderzoeksbureau blijkt dat Britse jongeren tussen 18 en 24 jaar geen eenvoudige klusjes en karweitjes kunnen uitvoeren. Zo kan bijvoorbeeld 18% van hen geen Ikea-kast ineenzetten en een radiator ontluchten lukt niet bij 69% (kan jij dit? ). Veronderstel bovendien dat de kans dat hij/zij minstens één van deze klusjes niet kan gelijk is aan 76%.

1. Bereken dan de volgende kansen betreffende een Britse jongere tussen 18 en 24 jaar: (a) dat hij/zij zowel geen Ikea-kast kan ineenzetten als een radiator kan ontluchten,

37

Statistiek & Data Analyse 2019-2020

38

(b) dat hij/zij in staat is om een Ikea-kast ineen te zetten en een radiator kan ontluchten, (c) dat hij/zij precies een van deze twee klusjes niet kan uitvoeren, (d) dat hij/zij enkel een radiator kan ontluchten (en dus niet een Ikea-kast ineen kan zetten), (e) dat hij/zij een Ikea-kast kan ineenzetten als gegeven (geweten) is dat hij/zij een radiator kan ontluchten.

2. Blijkbaar is een eenvoudig klusje zoals een lamp vervangen voor sommigen al een probleem. Gegeven een jongere die geen Ikea-kast ineen kan zetten, dan is de kans dat hij/zij wel een lamp kan vervangen gelijk aan 71%. Gegeven een jongere die een Ikea-kast ineen kan zetten, dan is de kans dat hij/zij ook een lamp kan vervangen gelijk is aan 93%. (a) Hoe groot is de kans dat een jongere geen lamp kan vervangen? (b) Wat is dan de kans dat een jongere een Ikea-kast kan ineenzetten als geweten is dat hij/zij geen lamp kan vervangen?

9.3 Voetballer Thorgan Eden heeft een kans van 0.8 om te scoren bij een strafschop. Hoeveel strafschoppen moet hij nemen om met een kans van ten minste 0.9 ten minste twee keer te scoren?

9.4 De Belgische vrouw heeft een lengte van gemiddeld 168.1 cm. De standaardafwijking van de lengte is 5.3 cm. De lengte van Belgische vrouwen in normaal verdeeld.

1. Clara is een Belgische en meet 183 cm. Hoeveel procent van de Belgische vrouwen is groter dan Clara?

2. Stella is een Belgische vrouw die kleiner is dan 99.7% van de Belgische vrouwen.

Hoe groot is Stella maximaal?

3. De faculteit Wetenschappen telt 354 vrouwelijke studenten. Wat is de kans dat precies twee vrouwen aan onze faculteit kleiner zijn dan de maximale mogelijke lengte van Stella (zie deel 2 van de vraag)?

4. Bereken een goede benadering voor deze kans. Leg uit waarom je voor deze benadering kiest.

Statistiek & Data Analyse 2019-2020

39

9.5 We zijn bezig met de organisatie van een feestje. Voor de muziek wordt er een dj, specialiseerd in popmuziek, ingehuurd. We willen voor 99% zeker zijn dat er voor minstens 4 uur muziek is. Gemiddeld duurt een popnummer 210 seconden (ofwel 3, 5 minuten) met een standaardafwijking van 38 seconden. Is het dan voldoende dat de dj een playlist samenstelt van 75 (verschillende) popnummers?

9.6 Men wil bestuderen in welke mate vitamine C de lengte van de tanden bij een cavia beı̈nvloedt. Hiervoor werd er aan 20 cavia’s een dosis vitamine C van 0.5 mg per dag toegediend en 20 andere cavia’s kregen 2 mg vitamine C per dag. Om vervolgens het effect van de vitamine C op de lengte van de tanden na te gaan, werd bij elke cavia de lengte van de odontoblasten (deze zorgen voor de groei van een tand) gemeten. De gemiddelde lengte van de odontoblasten van de 20 cavia’s die 0.5 mg vitamine C kregen per dag bedraagt 10.6 µm met een standaardafwijking van 4.50 µm. Bij de 20 cavia’s die 2 mg vitamine C toegediend kregen per dag is dit gemiddelde gelijk aan 26.1 µm met een standaardafwijking van 3.77 µm.

1. Geef een 90%-betrouwbaarheidsinterval voor het verschil in de gemiddelde lengte van de odontoblasten tussen beide dosissen vitamine C (i.e. µ0.5 − µ2 ).

2. Ga na of er een verschil is in gemiddeld effect tussen de twee dosissen vitamine C. Doe dit met behulp van een hypothesetest op significantieniveau 10%.

3. Is de gemiddelde lengte van de tanden van een cavia groter bij een hogere dosis vitamine C? Onderzoek met andere woorden met behulp van een geschikte hypothesetest (op significantieniveau 0.01) of de gemiddelde lengte van de odontoblasten bij een dosis van 2 mg vitamine C per dag groter is dan bij een dosis van 0.5 mg vitamine C per dag.

4. Maak een schets waarop je de testwaarde en de P-waarde van de vorige vraag aanduidt.

9.7 Aan 10 bijziende mensen wordt gevraagd wat de sterktes van hun brilglazen zijn, zowel voor het linkeroog als voor het rechteroog. De resultaten (uitgedrukt in dioptrie) zijn als volgt: links rechts

1.50 2.00

3.75 3.50

2.25 2.75

1.00 1.00

4.75 5.00

0.50 1.75 0.75 1.75

2.50 2.25

4.00 3.25

2.75 4.50

Statistiek & Data Analyse 2019-2020

40

1. Ga na of er bij bijziende mensen gemiddeld een verschil is in dioptrie tussen het linker- en het rechteroog. Formuleer een geschikte hypothesetest, vermeld je veronderstellingen, voer een gepaste test uit op significantieniveau 5% en formuleer je conclusie.

2. Stel dat aan de veronderstellingen niet voldaan is. Formuleer een andere zinvolle hypothesetest en voer deze uit.

Zelfstudiepakketten In de loop van het semester zal de student een 3-tal zelfstudiepakketten doorlopen, aan de hand van de welke geleerd wordt hoe de statistische software R te gebruiken om de gezien statistische technieken toe te passen.

41

Projectwerk In het projectwerk (dat deel is van de evaluatie) wordt er een dataset gegeven, en worden concrete onderzoeksvragen gesteld in verband hiermee. Door gepaste statistische technieken te gebruiken (en ook te verantwoorden waarom deze gebruikt mogen worden), en met behulp van de software, zal de student antwoorden op de onderzoeksvragen formuleren. De resultaten van de bevindingen worden goed gemotiveerd en overzichtelijk neergeschreven in een schriftelijk rapport.

42