Lineariteit

Om een idee te krijgen of er sprake is van een lineair verband kunnen we het scatterplot tussen de variabelen inspecteren. In Figuur 1 zie je dat er een rechte lijn te trekken is door de scatterplot en dat deze lijn een goed idee geeft van het verband tussen beide variabelen. We kunnen hier dan ook zeggen dat er sprake is van een lineair verband; We kunnen met één correlatiecoëfficiënt het verband tussen beide variabelen uitdrukken.

Figuur 1
Lineair verband tussen variabele x1 en variabele x2

Maar stel dat de punten in het scatterplot niet zo’n duidelijke rechte lijn laten zien, zoals in Figuur 2. Als we nu een rechte lijn door de punten zouden proberen te trekken, geeft deze lijn geen goed beeld van de manier waarin de punten met elkaar samenhangen. In de lagere regionen van de x-variabele is namelijk een positief verband te zien (blauwe lijn). Hier zouden we dus een positieve correlatiecoëfficiënt verwachten. In de hogere regionen van de x-variabele lijkt er juist een negatief verband te bestaan (rode lijn), waar een negatieve correlatiecoëfficiënt bij hoort. Eén correlatiecoëfficiënt kan dit verband tussen de twee variabelen niet weergeven.

Figuur 2:
Niet lineair verband

In een dergelijke situatie geven de uitkomsten van lineaire analyses, zoals een correlatie- of regressiecoëfficiënt, het werkelijke verband tussen beide variabelen niet goed weer.

Tot nu toe hebben we overgedramatiseerde figuren laten zien. In de praktijk kan het wat lastiger zijn om te bepalen of er sprake is van een lineair verband tussen twee variabelen. Als eerste kun je een scatterplot maken en op het oog bepalen of er een rechte lijn door de punten te trekken is, zoals in Figuur 3.

Figuur 3
Scatterplot tussen twee variabelen

We zien dat er een positief verband bestaat tussen de x- en y variabele. Maar wat ook opvalt is dat het lijkt of, naarmate x groter wordt, het verband met y steeds minder sterk wordt. Maar het zou ook kunnen dat er bij de hogere waarden van x relatief weinig cases zijn, waardoor die indruk gewekt wordt. Dus hoe kunnen we meer zekerheid krijgen over ons vermoeden?

Allereerst kunnen we een lineaire lijn trekken door de datapunten. Nu valt op dat de datapunten in zowel de lagere als de hogere regionen van de x alle onder de lijn liggen en in het middengebied liggen relatief veel stippen boven de lijn (Figuur 4). Als er een lineair verband zou bestaan, dan zou je mogen verwachten dat de datapunten overal ongeveer evenredig boven en onder de lijn zouden liggen. Dat dat hier niet het geval is geeft toch wel aan dat deze lineaire lijn geen goed beeld geeft van het verband tussen x en y.

Figuur 4
Lineair verband?

We hebben ook de optie om een ‘LOESS line’ te trekken en percentage points to fit tussen 60% en 90% te kiezen. Dan krijgen we een lijn die al beter bij de data lijkt te passen (Figuur 5). De lijn stijgt vrij sterk bij negatieve waarden van x, maar de sterkte van de stijging neemt af bij hogere waarden van x.

Figuur 5.
LOESS lines in scatterplot (% points to fit 90%)

Op basis van het feit dat er een niet-lineaire lijn gevonden is die beter bij de data lijkt te passen dan de lineaire lijn moeten we eigenlijk wel concluderen dat er geen sprake is van een lineair verband tussen x en y.

Je zou ook, kijkend naar het scatterplot, kunnen beslissen om verschillende modellen te testen en dan te bepalen welk model het  beste past bij de data. Op basis van de figuur hierboven zou ik een logaritmisch verband en een kwadratische verband willen testen.

In SPSS hoef je niet eerst kwadratische en logaritmische termen te berekenen en daarna drie regressieanalyses te draaien, maar met behulp van de curve estimation optie kun je dit alles gelijktijdig in beeld brengen. Je krijgt dan de resultaten van de drie modellen, die je kunt vergelijken. Er zijn nu verschillende parameters uit de outputs die je naast elkaar kunt leggen en vergelijken, namelijk de R² en/of de sum of squares en de regressiecoëfficiënt(en). De resultaten staan vermeld in Tabel 1.

Tabel 1:

Resultaten drie modellen

Kijkend naar het eerste model zonder kwadratische of logaritmische term, zien we dat de regressiecoëfficiënt (b = 0.26, p < .001) aangeeft dat, als x met één unit stijgt y met 0.26 units stijgt. Het model verklaart 66% van de variantie van y. Een mooie significante bevinding, maar kijkend naar de andere resultaten zou het incorrect zijn om op basis van dit resultaat te kiezen voor het ‘normale’ regressie model. We weten immers uit de scatterplots dat de regressiecoëfficiënt hoger zou moeten zijn in de lagere regionen van x en lager voor de hogere waarden.

De resultaten van de regressie waarbij een getransformeerde variant van x (ln(x)) is gebruikt, dan zie we dat 81% van de variantie van y door dit model wordt verklaard. De SS_error (dat deel van de variantie in y dat niet is verklaard door het model) is  afgenomen van 25 naar 14. En ook de variabele ln(x) is significant (b = 0.41, p < .001). Door in plaats van de variabele x de natuurlijke log daarvan in het model te plaatsen, hebben we dus een beter passend model gekregen.

Als laatste het model waarbij we uitgaan van een kwadratisch verband tussen x en y. Met dit model gaan we ervan uit dat het verband tussen x en y de vorm van een curve heeft met een maximum (of minimum). Met dit model wordt 77% van de variantie van y verklaard. De SS_error is lager dan die van het lineaire model maar hoger dan die van het logaritmische model. Ook zijn zowel de x-variabele als de kwadratische term significant.