IT-новости про Python, которые стоит знать

Собрали в одном месте самые важные ссылки
консультируем про IT, Python

     15.08.2022       Выпуск 452 (15.08.2022 - 21.08.2022)       Статьи

Любительская почта — чебурнет судного дня

В данной статье описан мой опыт создания sneakernet-сети, мотивация, побудившая написать данное ПО, общее описание работы, бенчмарки, а также ссылки на сторонние ресурсы, где можно почитать документацию и скачать исходный код и готовую скомпилированную сборку.

     15.08.2022       Выпуск 452 (15.08.2022 - 21.08.2022)       Статьи

Все, что вам нужно знать об Airflow DAGs, ч.1 — Основы и расписания

Полное руководство по созданию DAG в Apache Airflow DAG, позволяющих создать конвейер данных из разных источников, запускаемый в определенные периоды времени с заданной логикой. Первая часть. Источник: DAGs: The Definitive Guide от astronomer.io

     14.08.2022       Выпуск 451 (08.08.2022 - 14.08.2022)       Видео

Moscow Python Podcast. Про Хакатоны (level: all)

В гостях у Moscow Python Podcast Lead of HR Community Skolkovo Алиса Цапкова. Обсудили с Алисой зачем нужны хакатоны, советы и лайфхаки участникам хакатонов.

     13.08.2022       Выпуск 451 (08.08.2022 - 14.08.2022)       Статьи

Применение языка Python в инженерной практике

В инженерных расчётах очень большое значение имеет приведение, преобразование и отображение единиц измерения. Результат любых инженерных измерений и расчётов не имеет никакого смысла, если не указаны две его основные характеристики: единица измерения и точность. О точности я напишу следующий туториал, а сейчас поговорим об единицах измерения.

     12.08.2022       Выпуск 451 (08.08.2022 - 14.08.2022)       Статьи

Приключения чисел в python и mypy или the numeric tower

Если вы когда-нибудь чувствовали, что вы погрязли в совещаниях и обсуждениях, которые всё длятся и длятся, а решения проблемы всё нет, знайте: в mypy есть 5-летний issue, о том что целое число не является числом.

     12.08.2022       Выпуск 451 (08.08.2022 - 14.08.2022)       Статьи

Разбираемся с концепцией аутентификации в HTTP

Я часто путаю понятия авторизации и аутентификации между собой, поэтому решил создать материал, который закрепил бы эти понятия через какой-то практический опыт.

Термины аутентификации и авторизации для меня достаточно расплывчаты, если представить их в контексте практической бэкенд разработки. Я не совсем понимал логику работы аутентификации в фреймворках. В добавок эти концепции можно легко перепутать между собой. При общении с коллегами это было достаточно часто.

     11.08.2022       Выпуск 451 (08.08.2022 - 14.08.2022)       Статьи

Tkinter, раскрытие потенциала. + Игра на рабочем столе

Tkinter - это та библиотека, с которой на начальных этапах изучения языка python знакомились все, но обходили стороной по разным причинам. Сейчас я предлагаю вернуться назад, немного поностальгировать и открыть для себя в разы больше фич библиотеки. ВАЖНО! Tkinter - не лучшее решение для создания больших приложений. И по большей части эта статья нацелена на начинающих программистов, которые уже имеют представление о библиотеке и хотят рыть дальше.

     11.08.2022       Выпуск 451 (08.08.2022 - 14.08.2022)       Статьи

Динамический импорт модулей в Python

Давайте представим ситуацию, когда вам нужно установить на все виртуальные машины (агенты сервера сборки) определенный пакет Python. Но вы не можете изменить образ агента, а загрузка, к примеру из pypi.org или github.com непроверенных пакетов, ограничена. Как тут не вспомнить последние новости про вредоносные изменения в пакете nmp или более свежую информацию про PyPi.

     11.08.2022       Выпуск 451 (08.08.2022 - 14.08.2022)       Статьи

Мой опыт взаимодействия с SheetsAPI от Google

Разбираем интересный кейс использования Google Sheets API и Google Drive API на Python - подписываемся на изменения в Google-таблице и ведем по ним таблицу в СУБД PostgreSQL.Вместе пройдем трек от создания сервисного аккаунта Google и копирования таблицы-источника до отслеживания изменений в ней с помощью планировщика.

     11.08.2022       Выпуск 451 (08.08.2022 - 14.08.2022)       Статьи

Как фермеру узнать состояние своих полей по NDVI?

В данной статье я не буду вдаваться в подробности теории, предполагаю, что вы знаете для чего нужен этот индекс. Моя задача - показать, как вам можно его получить.

     10.08.2022       Выпуск 451 (08.08.2022 - 14.08.2022)       Статьи

[recovery mode] Раскрашивание изображений с использованием нейронных сетей

DeOldify— это проект, основанный на глубоком обучении, для раскрашивания и восстановления изображений. Модель использует архитектуру NoGAN для обучения модели.

Мы будем использовать эту модель, чтобы преобразовать некоторые старые черно-белые фотографии, добавив к ним цвет.

     10.08.2022       Выпуск 451 (08.08.2022 - 14.08.2022)       Статьи

История о том, как фронтендер YaLM 100B на одной RTX 3070 TI запускал

В июне Яндекс опубликовал нейросеть YaLM 100B. Нейросеть умеет генерировать тексты. А это очень мощная вещь, можно попробовать массу всего полезного (и не очень) создать с ее помощью, от сюжетов для книг, игр и приложений, заканчивая рерайтом статей или того хуже, дорвеями.Эта штука имеет лицензию Apache 2.0. Но чтобы запустить нужно ~ 200GB GPU  видеопамяти!И еще есть нюанс, проверить нейронку в работе, не так-то просто. Яндекс не предоставили ни демок, ни инструкций, как запустить бюджетно YaLM 100B. Пока все ждут урезанную или онлайн версию, я познакомился с ней поближе. Об этом и лонгрид. Спойлер, дальше рассказ пойдёт о том, через что я прошёл и результаты. Исходников не будет. Поехали!

     10.08.2022       Выпуск 451 (08.08.2022 - 14.08.2022)       Статьи

От Albumentations к Image Search

По этой ссылке приложение для поиска по датасетуOpen Images (1.7M картинок).

Загружаете свою картинку - получаете 5 похожих.

     09.08.2022       Выпуск 451 (08.08.2022 - 14.08.2022)       Статьи

Собираем генератор данных на Blender. Часть 4: Сборка проекта и рендеринг

В предыдущих статьях мы научились работать с объектами, настраивать свет и камеры, редактировать материалы (aka. текстуры) через api. В заключительной части знакомства с Blender мы рассмотрим две темы: сборка проекта из разных файлов и запуск рендеринга через консоль. В Friflex мы используем Blender в работе над idChess (интеллектуальной платформой для распознавания и трансляции шахматных партий) и другими проектами по оцифровке спорта.

     09.08.2022       Выпуск 451 (08.08.2022 - 14.08.2022)       Статьи

Группы асинхронных задач в Python 3.11

Вчера на официальном сайте был опубликован первый релиз-кандидат Python 3.11, который принесет важные оптимизации и доработки в возможности языка. Релиз планируется в октябре этого года, но уже сейчас можно поэкспериментировать с новыми возможностями и сегодня мы поговорим о группах исключений и асинхронных задач. Первые позволяют одновременно выбрасывать и обрабатывать несколько исключений, в то время как вторые позволяют объединять задачи в общий event loop и координированно управлять группами задач.

     09.08.2022       Выпуск 451 (08.08.2022 - 14.08.2022)       Статьи

#1 Нейронные сети для начинающих. Решение задачи классификации Ирисов Фишера

Это первая статья серии введения в нейронные сети, «Нейронные сети для начинающих». Здесь и далее мы постараемся разобраться с таким понятием — как нейронные сети, что они вообще из себя представляют и как с ними «подружиться», на практике решая простые задачи.

     09.08.2022       Выпуск 451 (08.08.2022 - 14.08.2022)       Статьи

Учимся использовать Yandex SpeechKit с помощью Python за 5 минут

Год назад для собственных нужд я написал обертку Yandex SpeechKit на Python, она получилась настолько простая и универсальная, что грех не поделиться : )

     08.08.2022       Выпуск 451 (08.08.2022 - 14.08.2022)       Статьи

4х повышение разрешения изображения с использованием ESRGAN

4х повышение разрешения изображения с использованием ESRGANВ данной статье разобрано применение предобученной нейронной сети ESRGAN для увеличения разрешения изображения в четыре раза c использованием tensorflow hub.

     08.08.2022       Выпуск 451 (08.08.2022 - 14.08.2022)       Статьи

Восстановление (импутация) данных с помощью Python

На данный момент Python является самым популярным языком программирования, который применяется для анализа данных или в машинном обучении. Сильными сторонами Python являются его модульность и возможность интегрироваться с другими языками программирования.

В науке о данных разведочный анализ данных (exploratory data analysis, EDA) является самым важным этапом в проекте и занимает около 70-80% времени всего проекта. Такой анализ позволяет изучить какие-то свойства данных, найти в них закономерности, аномалии, очистить их, подготовить и построить начальные модели для дальнейшей работы. На этом этапе можно определить вид распределения, оценить основные его параметры, обнаружить выбросы, построить матрицу корреляции признаков и т.д.

     08.08.2022       Выпуск 451 (08.08.2022 - 14.08.2022)       Конференции, события, встречи разработчиков

PyCon Russia 2022: два дня докладов, песни под гитару и костер в центре Москвы

Товарищи! PyCon Russia 2022, о необходимости которого все время говорили большевики питонисты, совершился! 30 и 31 июля в Москве состоялась самая долгожданная, уютная и душевная конференция для python-разработчиков и специалистов data science и ml. Мы выдохнули и спешим рассказать, как это было.