Diskussion:Empirische Risikominimierung

arg

Wofür steht das “arg” in der letzten Formel?—Butäzigä (Diskussion) 07:42, 14. Jan. 2022 (CET)

Arg min --Sigma^2 (Diskussion) 08:52, 14. Jan. 2022 (CET)

Definition

Was ist eine 'von den Realisierungen abhängige Hypothese'? Falls das irgendeinen Sinn ergibt, liegt offensichtlich ein völlig anderer Hypothesenbegriff zu Grunde als z. B. in der Statistik. --Sigma^2 (Diskussion) 11:56, 19. Feb. 2023 (CET)

@Sigma^2: Wenn du mehr über den Gebrauch des Begriffs "Hypothese" in diesem Kontext hören willst, kannst du z.B. diese Vorlesung anschauen: https://www.cs.cornell.edu/courses/cs4780/2018fa/lectures/lecturenote12.html biggerj1 (Diskussion) 10:29, 5. Jun. 2023 (CEST)

Danke. Hypothese bezeichnet hier ein Objekt, das in der Statistik Regressionsfunktion heißt. Eine Hypothese $h$ ist in dieser Sprachwelt eine Funktion vom Raum der $x$-Werte in den Raum der $y$-Werte, so dass $h(x)\approx y$. Ich würde dazu nicht sagen, das $h$ "von den Realisierungen abhängig ist", vielmehr ist die Funktion $h$ für alle $x$-Werte dieselbe Funktion, also gerade nicht "von den Realisierungen abhängig". Die Hypothese $h$ wird – beispielsweise als lineare Hypothese $h_{\theta }(x)=\theta _{0}+\theta _{1}x_{1}+\dots +\theta _{d}x_{d}$, falls $x$ $d$-dimensional ist – unabhängig von den beobachteten Werten aufgestellt. --Sigma^2 (Diskussion) 13:07, 5. Jun. 2023 (CEST)

@Sigma^2: Ich denke, "von der Realisierung abhängig", meint, dass die Parameter der Regressionsfunktion Zufallsvariablen sind (und damit auch der konkrete Wert, den die Regressionsfunktion annimmt), da der Traingsdatensatz eine Menge von Realisierungen von Zufallsvariablen ist. Wie formulieren wir das sauber? biggerj1 (Diskussion) 18:57, 5. Jun. 2023 (CEST)

Tilted losses: When average loss is not a good performance measure

Beirami, Ahmad, Maziar Sanjabi, and Virginia Smith. "On tilted losses in machine learning: Theory and applications." Journal of Machine Learning Research 24 (2023): 1-79. Zum Beispiel bei großem unterschied der Klassenhäufigkeiten (class imbalance) oder rare events. Die Probleme von empirical risk minimization darzustellen ist sicher interessant biggerj1 (Diskussion) 13:14, 24. Sep. 2023 (CEST)

Gewichtete empirische Risikominimierung

Dieses Paper https://arxiv.org/abs/1812.03372v3 beschreibt die gewichtete empirische Risikominimierung als Anwendung von Importance Sampling, falls die Verteilung der Trainingsdaten nicht der echten Verteilung der Daten entspricht (bspw. Aufgrund von biased sampling, distribution shifts etc.). Wäre schön im Artikel. biggerj1 (Diskussion) 09:05, 15. Feb. 2024 (CET)