refactor(logging): add detailed debug logs

This commit is contained in:
2026-08-02 00:44:16 +05:00
parent a74e2eb328
commit 60d67b613a
4 changed files with 172 additions and 83 deletions
+74 -39
View File
@@ -5,7 +5,7 @@ from shutil import move
from pathlib import Path
from countryflag import getflag
from checker import Result, Checker, SessionInvalid
from modules.checker import Result, Checker, SessionInvalid
logger = logging.getLogger(__name__)
@@ -17,6 +17,7 @@ class Worker:
output_path: str = "data",
temp_path: str = "temp",
):
logger.debug(f"Инициализация Worker с путями: input={input_path}, output={output_path}, temp={temp_path}")
self.input_path = Path(input_path).absolute()
self.output_path = Path(output_path).absolute()
self.temp_path = Path(temp_path).absolute()
@@ -25,52 +26,65 @@ class Worker:
self.invalid_path = self.output_path.joinpath("invalid")
self.all_path = self.valid_path.joinpath("all.txt")
logger.debug(f"Пути настроены: valid={self.valid_path}, invalid={self.invalid_path}")
async def __aenter__(self):
logger.debug("Вход в контекстный менеджер Worker")
logger.debug("Создание необходимых директорий")
if not self.input_path.exists():
self.input_path.mkdir()
logger.debug(f"Создана директория: {self.input_path}")
if not self.output_path.exists():
self.output_path.mkdir()
logger.debug(f"Создана директория: {self.output_path}")
if not self.temp_path.exists():
self.temp_path.mkdir()
logger.debug(f"Создана директория: {self.temp_path}")
else:
logger.debug("Очистка существующей временной директории")
self.__cleanup()
if not self.valid_path.exists():
self.valid_path.mkdir()
logger.debug(f"Создана директория: {self.valid_path}")
if not self.invalid_path.exists():
self.invalid_path.mkdir()
logger.debug(f"Создана директория: {self.invalid_path}")
logger.debug("Все директории готовы")
return self
async def __aexit__(self, exc_type, exc_val, exc_tb):
logger.debug("Выход из контекстного менеджера Worker")
self.__cleanup()
if self.client:
logger.debug("Отключение клиента Telethon")
try:
await self.client.disconnect()
except:
pass
def __cleanup(self):
logger.debug("Начало очистки временных файлов")
if self.temp_path.exists():
deleted_count = 0
for file in os.listdir(path=self.temp_path):
file_path = self.temp_path.joinpath(str(file))
try:
if file_path.isfile() and ".gitinclude" not in file_path:
if file_path.is_file() and ".gitinclude" not in str(file_path):
file_path.unlink(missing_ok=True)
elif file_path.isdir():
deleted_count += 1
elif file_path.is_dir():
file_path.rmdir()
deleted_count += 1
deleted_count += 1
except Exception as e:
logger.warning(f"Не удалось удалить {file_path}: {e}")
logger.debug(f"Не удалось удалить {file_path}: {e}")
if deleted_count > 0:
logger.debug(f"Удалено {deleted_count} временных файлов")
logger.debug(f"Удалено временных файлов: {deleted_count}")
else:
logger.debug("Нет временных файлов для удаления")
def __list_tdata(self):
logger.debug(f"Поиск TDATA папок в {self.input_path}")
tdatas = []
if self.input_path.exists():
@@ -78,10 +92,13 @@ class Worker:
joined = self.input_path.joinpath(content)
if joined.is_dir():
tdatas.append(joined.absolute())
logger.debug(f"Найдена TDATA папка: {joined}")
logger.debug(f"Всего найдено TDATA папок: {len(tdatas)}")
return tdatas
def __template(self, result: Result):
logger.debug(f"Создание шаблона для пользователя {result.me.id}")
return (
f"👤 [{getflag(countries=result.country)} {result.country}] {result.me.phone}{result.me.id}\n"
f"⭐️ {result.stars}\n"
@@ -91,62 +108,80 @@ class Worker:
)
def __append(self, content: str, path: Path):
with open(file=path, mode="+a", encoding="utf-8") as file:
file.write(content)
logger.debug(f"Добавление данных в файл: {path}")
with open(file=path, mode="a", encoding="utf-8") as file:
file.write(content + "\n\n")
def __write(self, content: str, path: Path):
with open(file=path, mode="+w", encoding="utf-8") as file:
logger.debug(f"Запись данных в файл: {path}")
with open(file=path, mode="w", encoding="utf-8") as file:
file.write(content)
def __save_valid(self, user_id: int, result: Result, tdata: Path):
id_path = self.output_path.joinpath(str(user_id))
logger.debug(f"Сохранение валидной TDATA для пользователя {user_id}")
id_path = self.valid_path.joinpath(str(user_id))
if not id_path.absolute().exists():
id_path.mkdir()
logger.debug(f"Создана директория для пользователя: {id_path}")
content = self.__template(result=result)
id_txt_path = id_path.joinpath(f"{user_id}.txt")
# Append to all.txt
logger.debug("Добавление в общий файл all.txt")
self.__append(content=content, path=self.all_path)
# Write to id.txt
logger.debug("Запись в индивидуальный файл")
self.__write(content=content, path=id_txt_path)
tdata_old_path = self.input_path.joinpath(tdata).absolute()
tdata_old_path = tdata
tdata_relative = tdata.relative_to(self.input_path)
tdata_new_path = id_path.joinpath(tdata_relative.name)
tdata_relative_id_path = id_path.joinpath(tdata)
tdata_new_path = self.valid_path.joinpath(tdata_relative_id_path).absolute()
# Move tdata
move(src=tdata_old_path, dst=tdata_new_path)
logger.debug(f"Перемещение TDATA: {tdata_old_path} -> {tdata_new_path}")
move(src=str(tdata_old_path), dst=str(tdata_new_path))
logger.info(f"Валидная TDATA сохранена для пользователя {user_id}")
def __save_invalid(self, tdata: Path):
tdata_old_path = self.input_path.joinpath(tdata).absolute()
tdata_new_path = self.invalid_path.joinpath(tdata).absolute()
logger.debug(f"Сохранение невалидной TDATA: {tdata}")
tdata_old_path = tdata
tdata_relative = tdata.relative_to(self.input_path)
tdata_new_path = self.invalid_path.joinpath(tdata_relative.name)
# Move tdata
move(src=tdata_old_path, dst=tdata_new_path)
logger.debug(f"Перемещение TDATA: {tdata_old_path} -> {tdata_new_path}")
move(src=str(tdata_old_path), dst=str(tdata_new_path))
logger.info(f"Невалидная TDATA перемещена: {tdata_relative.name}")
async def check_one(self, tdata: str):
tdata_absolute = Path(tdata).absolute()
tdata_relative = Path(tdata).relative_to(self.input_path)
async def check_one(self, tdata: Path):
tdata_absolute = tdata.absolute()
logger.info(f"Проверка TDATA: {tdata.name}")
logger.info(f"Начало проверки TDATA: {tdata_absolute}")
try:
async with Checker(path=tdata_absolute) as checker:
async with Checker(path=tdata_absolute, temp_path=self.temp_path) as checker:
result = await checker.check_all()
return
self.__save_valid(user_id=result.me.id, tdata=tdata_relative)
logger.info(f"Проверка завершена: {result.me.first_name} (+{result.me.phone})")
self.__save_valid(user_id=result.me.id, result=result, tdata=tdata_absolute)
except SessionInvalid:
self.__save_invalid(tdata=tdata_relative)
logger.warning(f"TDATA невалидна: {tdata.name}")
self.__save_invalid(tdata=tdata_absolute)
except:
pass
except Exception as e:
logger.error(f"Ошибка при проверке TDATA {tdata.name}: {e}")
self.__save_invalid(tdata=tdata_absolute)
async def check_all(self):
logger.info("Начало массовой проверки TDATA")
tdatas = self.__list_tdata()
for tdata in tdatas:
if not tdatas:
logger.warning("TDATA папки не найдены")
return
logger.info(f"Найдено TDATA для проверки: {len(tdatas)}")
for index, tdata in enumerate(tdatas, 1):
logger.info(f"[{index}/{len(tdatas)}] Проверка: {tdata.name}")
await self.check_one(tdata=tdata)
logger.info("Массовая проверка завершена")