This technical report, developed in the context of XPS and LEIS spectral deconvolution activities, examines the statistical properties of the multiple coefficient of determination, R^2, with particular emphasis on its correction in linear regression. After reviewing its definition and demonstrating that R^2 cannot decrease as the number of regressors increases, the report discusses its sampling distribution and the resulting bias with respect to the corresponding population value. Particular attention is devoted to Wherry's adjusted R^2, which is widely implemented in major statistical software packages. The report shows that Wherry's formula can be interpreted as an approximation to Wishart's expression for the expected value of the sample R^2. Three correction approaches are then compared numerically: Wherry's formula, numerical inversion of Wishart's expression, and the uniformly minimum-variance unbiased estimator developed by Olkin and Pratt. The comparison shows appreciable differences mainly for small sample sizes and low values of R^2, whereas the Wishart-based correction and the Olkin-Pratt estimator exhibit good agreement

Il rapporto tecnico, nato nell'ambito delle attività di deconvoluzione degli spettri XPS e LEIS, esamina le proprietà statistiche del coefficiente di determinazione multipla R^2 e, in particolare, il problema della sua correzione nella regressione lineare. Dopo averne richiamato la definizione e dimostrato che R^2 non può diminuire all'aumentare del numero di regressori, vengono discusse la sua distribuzione campionaria e la conseguente distorsione rispetto al valore della popolazione. Particolare attenzione è dedicata all'Adjusted R^2 secondo Wherry, comunemente adottato dai principali software statistici. Si mostra come tale formula possa essere interpretata come un'approssimazione dell'espressione di Wishart per il valore atteso di R^2. Vengono quindi confrontati numericamente tre approcci di correzione: la formula di Wherry, l'inversione numerica dell'espressione di Wishart e lo stimatore non distorto a varianza uniformemente minima di Olkin e Pratt. I risultati evidenziano differenze soprattutto per campioni piccoli e bassi valori di R^2, mentre l'approccio di Wishart e quello di Olkin-Pratt mostrano un buon accordo.

Note sulla correzione del coefficiente di correlazione multipla R^2 nella regressione lineare scritte a margine delle attività volte alla deconvoluzione degli spettri XPS e Leis

De Vecchi Luca
2024

Abstract

This technical report, developed in the context of XPS and LEIS spectral deconvolution activities, examines the statistical properties of the multiple coefficient of determination, R^2, with particular emphasis on its correction in linear regression. After reviewing its definition and demonstrating that R^2 cannot decrease as the number of regressors increases, the report discusses its sampling distribution and the resulting bias with respect to the corresponding population value. Particular attention is devoted to Wherry's adjusted R^2, which is widely implemented in major statistical software packages. The report shows that Wherry's formula can be interpreted as an approximation to Wishart's expression for the expected value of the sample R^2. Three correction approaches are then compared numerically: Wherry's formula, numerical inversion of Wishart's expression, and the uniformly minimum-variance unbiased estimator developed by Olkin and Pratt. The comparison shows appreciable differences mainly for small sample sizes and low values of R^2, whereas the Wishart-based correction and the Olkin-Pratt estimator exhibit good agreement
2024
Istituto per la Scienza e Tecnologia dei Plasmi - ISTP
Il rapporto tecnico, nato nell'ambito delle attività di deconvoluzione degli spettri XPS e LEIS, esamina le proprietà statistiche del coefficiente di determinazione multipla R^2 e, in particolare, il problema della sua correzione nella regressione lineare. Dopo averne richiamato la definizione e dimostrato che R^2 non può diminuire all'aumentare del numero di regressori, vengono discusse la sua distribuzione campionaria e la conseguente distorsione rispetto al valore della popolazione. Particolare attenzione è dedicata all'Adjusted R^2 secondo Wherry, comunemente adottato dai principali software statistici. Si mostra come tale formula possa essere interpretata come un'approssimazione dell'espressione di Wishart per il valore atteso di R^2. Vengono quindi confrontati numericamente tre approcci di correzione: la formula di Wherry, l'inversione numerica dell'espressione di Wishart e lo stimatore non distorto a varianza uniformemente minima di Olkin e Pratt. I risultati evidenziano differenze soprattutto per campioni piccoli e bassi valori di R^2, mentre l'approccio di Wishart e quello di Olkin-Pratt mostrano un buon accordo.
Wishart
Wherry
Coefficiente di correlazione multiplo
File in questo prodotto:
File Dimensione Formato  
Rquad_def_moddopo.pdf

solo utenti autorizzati

Descrizione: Rapporto tecnico
Tipologia: Versione Editoriale (PDF)
Licenza: NON PUBBLICO - Accesso privato/ristretto
Dimensione 1.5 MB
Formato Adobe PDF
1.5 MB Adobe PDF   Visualizza/Apri   Richiedi una copia

I documenti in IRIS sono protetti da copyright e tutti i diritti sono riservati, salvo diversa indicazione.

Utilizza questo identificativo per citare o creare un link a questo documento: https://hdl.handle.net/20.500.14243/465984
Citazioni
  • ???jsp.display-item.citation.pmc??? ND
  • Scopus ND
  • ???jsp.display-item.citation.isi??? ND
social impact