Machine learning strategies for drug sensitivity prediction and treatment optimization in cancer

Abstract

The heterogeneity of cancer is a primary challenge for its treatment. Thus, analyzing large multi-omics and drug-screening datasets of cancer cells with machine learning (ML) is promising to study how cellular properties impact drug response and to apply this knowledge for treatment optimization. In this thesis, we used cell line data to build accurate, reliable, and interpretable ML models for personalizing cancer treatment: We conducted the largest benchmarking to date for drug response prediction, investigating various ML and dimension reduction methods. With SAURON-RF, we developed a novel method that, compared to state-of-the-art approaches, strongly improves predictions for drug-sensitive samples, which are particularly relevant for treatment optimization. To enhance model reliability, we built a pipeline that, for the first time, ensures that sensitivity predictions meet user-defined certainty levels for classification and regression. A major goal in treatment optimization is prioritizing treatment options based on their predicted effectiveness. To enable prioritization, we propose a novel sensitivity measure that is comparable across drugs and drug combinations, overcoming the limitations of existing measures. Additionally, we pioneer ML models predicting dose-specific responses to multi-drug therapies for cell lines unseen during model training. Lastly, we developed highly accurate models for predicting muscle invasion in bladder cancer to guide therapy decisions.

Tumor-Heterogenität stellt eine erhebliche Herausforderung für die Krebsbehandlung dar. Die Untersuchung großer Krebszelldatensätze mittels maschinellen Lernens (ML) ist daher vielversprechend, um Zusammenhänge zwischen genetischen Zelleigenschaften und Medikamentenwirksamkeit zu untersuchen und zur Therapieoptimierung zu nutzen. In dieser Arbeit präsentieren wir zelllinienbasierte ML-Modelle zur Personalisierung der Krebsbehandlung: Zunächst haben wir das bisher umfangreichste ML-Benchmarking zur Wirksamkeitsvorhersage von Krebsmedikamenten durchgeführt. Wir haben einen neuartigen ML-Ansatz entwickelt, der Vorhersagen für wirkstoffempfindliche Proben, die hochrelevant für die Therapieoptimierung sind, signifikant verbessert. Zudem haben wir ein Framework implementiert, welches garantiert, dass Klassifikations- und Regressionsmodelle benutzerdefinierte Zuverlässigkeitskriterien erfüllen. Ein Hauptziel personalisierter Medizin ist das Priorisieren von Medikamenten nach ihrer Wirksamkeit. Um die Effizienz verschiedener Medikamente vergleichbar zu machen, schlagen wir ein neues Sensitivitätsmaß vor, das Defizite existierender Maße behebt. Für Kombinationstherapien haben wir Modelle entworfen, die erstmals Dosis-spezifische Wirksamkeitsvorhersagen für Zelllinien ermöglichen, die nicht zum Modelltraining genutzt wurden. Zuletzt haben wir akkurate Modelle zur Vorhersage der Muskelinvasion in Blasentumoren entwickelt, um die Wahl einer geeigneten Behandlung zu unterstützen.