8

  • Web Address
  • DOI
  • Date of creation in the UzSCI system 05-12-2025
  • Read count 8
  • Date of publication 29-06-2024
  • Main LanguageO'zbek
  • Pages10-13
Tags
English

In this work, we explore the efficient representation of drugs using BERT, and the effectiveness of transformers in predicting molecular properties. Determining the structural, physicochemical, biochemical and pharmacokinetic properties of a drug molecule is important for the development of pharmaceuticals. And to accurately predict molecular properties, an effective representation of the drug is required, for which the molecular graph description in the form of SMILES (Simplified Molecular Input Line Entry) is widely used today. The article discusses the BERT model for analyzing drug structures and also uses molecular graphs to represent their structure.

Русский

В данной работе мы исследуем эффективное представление лекарств с помощью BERT, и эффективность трансформеров в задачах прогнозирования молекулярных свойств. Определение структурных, физико-химических, биохимических и фармакокинетических свойств молекулы лекарства имеет важное значение для создания фармацевтических препаратов. А чтобы точно предсказать молекулярные свойства, требуется эффективное представление лекарства, для которого сегодня широко используют описание молекулярного графа в виде SMILES (Simplified Molecular Input Line Entry). В статье рассматривается модель BERT для анализа структур лекарств, а также для представления их структуры применяется молекулярные графы.

№ Name of reference
1 1. Адылова Ф.Т. Нейронные сети глубокого обучения в моделировании отношения «структура-активность» Проблемы вычислительной и прикладной математики (2019), №3(21), с.5-19
2 2. Адылова Ф.Т., Давронов Р. Р. Новый подход к решению проблемы малых выборок в QSARмоделировании // Проблемы вычислительной и прикладной математики. — 2021. — №4(34). — С. 73-83.
3 3. Kexin Huang, Cao Xiao, Lucas M. Glass, Jimeng Sun Drug-BERT: Pre-training Drug Sub-structure Representation for Molecular Property Prediction https://www.kexinhuang.com/s/AIDM_Drug-BERT.pdf
4 4. Devlin, Jacob, et al. "Bert: Pre-training of deep bidirectional transformers for language understanding." NAACL (2019)
5 5. Andrew M Dai, Quoc V Le. 2015. Semi-supervised sequence learning. In Advances in neural information processing systems, pages 3079–3087
6 6. Matthew Peters, Mark Neumann, Mohit Iyyer, Matt Gardner, Christopher Clark, Kenton Lee, and Luke Zettlemoyer. 2018a. Deep contextualized word representations. In NAACL.
7 7. Alec Radford, Karthik Narasimhan, Tim Salimans, Ilya Sutskever. 2018. Improving language understanding with unsupervised learning. Technical report, OpenAI.
8 8. Jeremy Howard and Sebastian Ruder. 2018. Universal language model fine-tuning for text classification. In ACL. Association for Computational Linguistics.
9 9. David K Duvenaud, Dougal Maclaurin, Jorge Iparraguirre, Rafael Bombarell, Timothy Hirzel, Alán AspuruGuzik, and Ryan P Adams. Convolutional networks on graphs for learning molecular fingerprints. In Advances in neural information processing systems, pages 2224–2232, 2015
10 10. БН Кузиев, РР Давронов, ФТ Адылова, БА Абдурахмонов. Биологической активности органических соединений в моделировании отношения «структура-активность».
11 11. ФТ Адилова, Р Давронов, БН Қўзиев. Алгоритмические проблемы биоинформатики и подходы к их решению. 5⋅ 2009_, 56
12 12. БН Кузиев, РР Давронов, ФТ Адылова, БА Абдурахмонов Сравнение эффективности предикторов биологической активности органических соединений в моделировании отношения «структура– активность» ГГТУ им. ПО Сухого
13 13. Кузиев, Б. Н., Холмуминова, Д. А., & Муртазин, Э. Р. Электронное обучение как часть образовательного процесса. Ученый XXI века, 1, 43.
14 14. Кузиев, Б. Н., Муртазин, Э. Р., & Холмуминова, Д. А. (2016). Внедрение информационных технологий в образовательный процесс. Ученый XXI века, 28.
15 15. Kuziev, B. N., Murtazin, E. R., & Kholmuminova, D. A. (2016). Introduction information technologies to educational process. Ученый XXI века, (3-1 (16)), 26-28.
16 16. Адылова, Ф. Т., Кузиев, Б. Н., & Давронов, Р. Р. (2023). ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ КАК ОСНОВА ЦИФРОВОЙ ТЕРАПИИ ДИАБЕТА. Universum: технические науки, (1-4 (106)), 5-11.
Waiting