IT-новости про Python, которые стоит знать

Собрали в одном месте самые важные ссылки
читайте нас в Twitter

     19.03.2023       Выпуск 482 (13.03.2023 - 19.03.2023)       Статьи

ETL процесс для миграции процедур с mssql на postgreSQL. Часть 1. Введение

Хочется поделиться опытом преображения одного представления кода в другой с помощью ETL процесса и графовой базы данных на актуальном в наши дни примере.

Вкратце есть база на mssql сервере есть хранимые процедуры. Есть база на postgres. Есть ETL процесс на Apache Air Flow. Запускаем процесс, по окончании в базе postgres появляются процедуры и данные.

     19.03.2023       Выпуск 482 (13.03.2023 - 19.03.2023)       Статьи

Django. Добавление счётчика уникальных просмотров

Как сделать простой счётчик уникальных просмотров на основе ip адреса для не авторизованных пользователей и записи в таблицы пользователей для авторизованных пользователей

     18.03.2023       Выпуск 482 (13.03.2023 - 19.03.2023)       Статьи

Django. Ускорение сайта с помощью кэширования шаблонов и их частей

Описание двух способов ускорения генерирования страниц сайта как с помощью кэширования частей шаблонов сайта, так и использования кэширующего загрузчика шаблонов на сайте.

     18.03.2023       Выпуск 482 (13.03.2023 - 19.03.2023)       Статьи

Strawberry GraphQL и FastAPI. Так что получается, Pydantic всё-таки не нужен?

Сказ пойдет о том, как я протаптывал тропинки в этом неизведанном (или неосвещенном) мире GraphQL и Python.

     16.03.2023       Выпуск 482 (13.03.2023 - 19.03.2023)       Статьи

Python Дайджест: как актуализировать всю кодовую базу с помощью pre-commit

Продолжаю рассказывать, как open source проект Python Дайджест спустя 5 лет без обновлений удалось актуализировать по всему стэку технологий. В первой части рассказал, как удалось outdated проект с Python 3.4 обновить до Python 3.11 и Django 4.1. В этой части расскажу, как удалось максимально дешево привести кодовую базу в актуальное состояние.

     16.03.2023       Выпуск 482 (13.03.2023 - 19.03.2023)       Статьи

Дублирующий скрипт: как с его помощью мы ускорили бизнес-процесс с двух рабочих дней до семи минут

Как известно, при создании промышленного процесса, в котором регламентирован каждый шаг, все участвующие подразделения стараются максимально облегчить выполнение своей части работы. Поэтому часто применяются упрощения, которые не позволяют учесть все нюансы процесса, отслеживаемые в ручном режиме каждым аналитиком. По сути, перед автоматизаторами стоит задача охватить наибольшее число вариаций и при этом не усложнить процесс так, чтобы с ним было невозможно работать. Под усложнениями понимаются различные блокирующие процесс проверки, многочисленные итерации согласований по той или иной задаче, формы дополнительного ручного ввода данных и т.п.

     16.03.2023       Выпуск 482 (13.03.2023 - 19.03.2023)       Статьи

Какого цвета атомы?

В этой статье мы обсудим какие бывают цветовые схемы для атомов, дальтонизм, цветовую модель RGB в контексте Python-а. А в конце мы попробуем сделать собственную цветовую схему для атомов первого и второго периодов таблицы Менделеева, исходя из того, чтобы цвета были чуточку дружелюбнее к дальтоникам.

     16.03.2023       Выпуск 482 (13.03.2023 - 19.03.2023)       Статьи

Генерация DAG в Apache Airflow

Пошаговая инструкция о том, как из одного DAG сделать фабрику DAG.Включает в себя: установка Airflow через Docker и поэтапное объяснение того, как сделать фабрику DAG.

     16.03.2023       Выпуск 482 (13.03.2023 - 19.03.2023)       Статьи

Бесплатный мультиязычный чат для сайта на Tawk + Notion + Telegram + chatGPT + GPT-Index

Вы хотите общаться с посетителями сайта на всех языках и при этом чтобы вам помогал обученный на вашей базе знаний chatGPT?Я следил за различными видами использования chatGPT с момента его выхода. Предлагаемое в статье решение я еще не встречал и поэтому думаю оно будет кому-то полезным.

     16.03.2023       Выпуск 482 (13.03.2023 - 19.03.2023)       Статьи

Простейший полнотекстовый поиск на Python с поддержкой морфологии

В прошлой статье я рассказывала, что составила для своего проекта словарь «Властелина Колец», причем для каждого англоязычного терма (слова/словосочетания) хранится перевод и список глав, в которых встречается это выражение. Все это составлено вручную. Однако мне не дает покоя, что многие вхождения термов могли быть пропущены.

     15.03.2023       Выпуск 482 (13.03.2023 - 19.03.2023)       Статьи

progressive_plots или ускоряем построение графиков

Большую часть карьеры я работал на стыке R&D и Deep Learning и в задачах возникающих в этих нишах часто невозможно написать какие-то автотесты и не всегда понятно где вообще может быть проблема поэтому нужно визуально исследовать графики каких-то алгоритмически-заданных функций или показаний с девайса при разных параметрах, а хочется эти графики изучить в максимально детализированном варианте, что почти всегда занимает неприлично большое количество времени.

     15.03.2023       Выпуск 482 (13.03.2023 - 19.03.2023)       Статьи

Обзор LMS.NetMap

Часто при проведении пентестов большой корпоративной инфрастуктуры нам не хватало визуального отображения карты сети. Zenmap — это, конечно, хорошо, но с момента последнего релиза прошло уже около 8 лет. Другие свободные решения зачастую не отличаются функционалом, а платные решения дорого стоят. Плюсом, множество готовых решений нацелены на мониторинг и администрирование, что является избыточным для решения наших задач.

     14.03.2023       Выпуск 482 (13.03.2023 - 19.03.2023)       Вопросы и обсуждения

Python Bytes: #327 Untangling XML with Pydantic

Очередной выпуск англоязычного подкаста Python Bytes

     14.03.2023       Выпуск 482 (13.03.2023 - 19.03.2023)       Статьи

Визуализация модели PyTorch

PyTorch — это библиотека глубокого обучения. С помощью PyTorch можно создавать очень сложные модели глубокого обучения. Однако иногда возникает необходимость в графическом представлении архитектуры модели.

     14.03.2023       Выпуск 482 (13.03.2023 - 19.03.2023)       Статьи

Цепочка методов в pandas. Прокачиваем свой код. Минигайд для интересующихся

Цепочка методов (или цепочка вызовов, method chaining) - это стиль записи кода, который позволяет выполнять несколько операций за один раз, в конечном счете экономя время и энергию.Для тех, кто не знаком с этой концепцией, это, по сути, способ применения нескольких методов или функций к данным в одной строке кода. Традиционный подход к использованию pandas предполагает использование отдельных функций и команд по одной за раз. Это может стать довольно утомительным и трудным для запоминания. Кроме того, если что-то пойдет не так, может быть трудно устранить неполадки, поскольку было использовано несколько операций. У меня еще была привычка, прыгать с одной ячейке на другую, вот тогда точно можно не вспомнить, что ты делал и проще переписать все заново.

     13.03.2023       Выпуск 482 (13.03.2023 - 19.03.2023)       Статьи

5 полезных библиотек Python (с примерами)

Python остается топ 1 среди языков программирования по версии многих журналов и сайтов. Популярность языка и его большое сообщество привело к тому, что сейчас для Python существует огромное число библиотек. К сожалению, большая часть этих библиотек была создана энтузиастами и больше не поддерживается. Давайте посмотрим на 5 хороших развивающихся библиотек, которые могут помочь при решении практических задач.

     13.03.2023       Выпуск 482 (13.03.2023 - 19.03.2023)       Статьи

Учим нейросеть принимать решения на основе уже известного опыта (на примере Шахмат и загруженного датасета)

Учим нейросеть играть в Шахматы, загрузив в нее датасеты уже сыгранных партий с известным результатом.То есть никакого минимакса, деревьев и расчетов на несколько ходов вперед.Идея в том, что если в нейросеть загрузить много партий, уже сыгранныx другими игроками, то нейросеть будет знать, как поступали другие игроки в соответствующих случаях и к какому результату это приводило. Нейросеть обобщит имеющийся опыт и будет делать ход на основе уже известного опыта и выявленных закономерностей, причем делать ход «мгновенно».

     13.03.2023       Выпуск 482 (13.03.2023 - 19.03.2023)       Статьи

Классификация изображений в облачной системе Google Colab

Нейронку можно обучить не только понимать, где на картинке собака, а где кошка. Можно шагнуть дальше, чтобы обучить ее распознавать данные графиков зрачковых реакций на свет и выдавать результат: норма или отклонение. Эта статья про сверточные нейронные сети, классификацию изображений с помощью моделей глубокого обучения, а также применение Google Colab для написания кода на Python.

     13.03.2023       Выпуск 482 (13.03.2023 - 19.03.2023)       Статьи

Генерация 2D мира с помощью клеточного автомата на Python

На написание этой статьи меня вдохновил автор YouTube канала PeaAshMeter. В своем видео автор показывает простейший генератор 2D мира, который основан на простейшем правиле клеточного автомата. Что такое клеточный автомат? Какие клеточные автоматы бывают? На эти и многие другие вопросы я попробую ответить.

     12.03.2023       Выпуск 481 (06.03.2023 - 12.03.2023)       Статьи

Как создание бинарного классификатора открыло ящик Пандоры в стандартах владения английским языком

Владение английским языком принято оценивать по системе CERF (Common European Reference Framework), состоящей из шести уровней, где уровень A1 – начинающие, а уровень С2 – профессионально владеющие иностранным языком. Международный уровень С2 часто позиционируется как “уровень образованного носителя”, и получение соответствующего сертификата зачастую является либо заветной мечтой, либо предметом гордости преподавателя-лингвиста.