ImitationLearning.ipynb

{
 "cells": [
  {
   "cell_type": "code",
   "execution_count": 23,
   "id": "d6446988",
   "metadata": {},
   "outputs": [],
   "source": [
    "import torch\n",
    "from torch import Tensor\n",
    "import torch.nn as nn\n",
    "import torchvision\n",
    "import pytorch_lightning as pl\n",
    "import matplotlib.pyplot as plt\n",
    "import numpy as np \n",
    "from torch.utils.data import Dataset, DataLoader\n",
    "import os \n",
    "from torchmetrics.classification.accuracy import BinaryAccuracy\n",
    "import pandas as pd \n",
    "from torchvision.io import read_image, ImageReadMode\n",
    "import torchvision.transforms as T\n",
    "import pickle \n",
    "import torchvision.transforms as TT \n"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 24,
   "id": "81fad888",
   "metadata": {},
   "outputs": [],
   "source": [
    "from torchvision.utils import draw_bounding_boxes\n",
    "import torchvision.transforms.functional as F\n",
    "\n",
    "\n",
    "def show(imgs):\n",
    "    if not isinstance(imgs, list):\n",
    "        imgs = [imgs]\n",
    "    fig, axs = plt.subplots(ncols=len(imgs), squeeze=False)\n",
    "    for i, img in enumerate(imgs):\n",
    "        img = img.detach()\n",
    "        img = F.to_pil_image(img)\n",
    "        axs[0, i].imshow(np.asarray(img))\n",
    "        axs[0, i].set(xticklabels=[], yticklabels=[], xticks=[], yticks=[])\n",
    "\n"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 25,
   "id": "e136526f",
   "metadata": {},
   "outputs": [],
   "source": [
    "BASE_IMAGE_DIR= \"ReinforcementImages\"\n"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 26,
   "id": "64abf029",
   "metadata": {},
   "outputs": [],
   "source": [
    "from SegmentationAI import Decider \n",
    "\n",
    "dec = Decider() \n"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 27,
   "id": "13a50a40",
   "metadata": {},
   "outputs": [],
   "source": [
    "# TODO - Load images with their target values? \n",
    "resize_factor = T.Resize((128,128), antialias=True)\n",
    "def load_and_clean(img_path):\n",
    "    \n",
    "    img = read_image(img_path,ImageReadMode.RGB)\n",
    "    \n",
    "    img = resize_factor.forward(img)  \n",
    "    img = TT.ConvertImageDtype(torch.float32).forward(img) \n",
    "\n",
    "#     img = img.float() \n",
    "    img = img.unsqueeze(0) \n",
    "    \n",
    "    img = dec.image_map(img) \n",
    "#     show(img) \n",
    "    \n",
    "    return img \n",
    "possible_moves = ['up','left','right']\n",
    "\n",
    "data_points = [] \n",
    "\n",
    "categorical_variables = {}\n",
    "c_v_idx = 0 \n",
    "\n",
    "for file in os.listdir(BASE_IMAGE_DIR):\n",
    "    moves = set(file.split(\"_\")).intersection(possible_moves) \n",
    "    formatted = [] \n",
    "    for m in possible_moves:\n",
    "        if m in moves:\n",
    "            formatted.append(m) \n",
    "    \n",
    "    moves = \" \".join(formatted)  \n",
    "    if moves not in categorical_variables:\n",
    "        categorical_variables[moves] = c_v_idx \n",
    "        c_v_idx += 1 \n",
    "    moves = categorical_variables[moves] \n",
    "     \n",
    "        \n",
    "    img = load_and_clean(f\"{BASE_IMAGE_DIR}/{file}\")  \n",
    "    \n",
    "    data_points.append((img, moves))     "
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 28,
   "id": "ba38cd2f",
   "metadata": {},
   "outputs": [
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "{'up': 0, 'up left': 1, 'right': 2, 'up right': 3, 'left': 4, '': 5}\n"
     ]
    }
   ],
   "source": [
    "print(categorical_variables) "
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 29,
   "id": "ee1f3c0b",
   "metadata": {},
   "outputs": [
    {
     "data": {
      "image/png": "iVBORw0KGgoAAAANSUhEUgAAAYUAAAGFCAYAAAASI+9IAAAAOXRFWHRTb2Z0d2FyZQBNYXRwbG90bGliIHZlcnNpb24zLjcuMSwgaHR0cHM6Ly9tYXRwbG90bGliLm9yZy/bCgiHAAAACXBIWXMAAA9hAAAPYQGoP6dpAAAiHklEQVR4nO3deZRedZ3n8c/v/u597rPWU3tqTSVVWSsrEEIgbMqOKKBto+KCoKP2aU87Om3PTPe0Z2aO08fp0z32zBkdxnZssVumW0cbaW21wbZZFDAECEuAhBCyVJJKat/rWe78YbiAEMhSVfdZ3q9z/OfmgfpKVZ533d/9PfeaIAgCAQAgyYl6AABA6SAKAIAQUQAAhIgCACBEFAAAIaIAAAgRBQBAyD2ZFxWLRfX19SmTycgYM98zAQDmWBAEGhsbU1tbmxznxOcDJxWFvr4+dXZ2ztlwAIBo7N+/Xx0dHSf885OKQiaTkSRdqGvlypubyQAACyavnB7Qj8L38xM5qSi8vGTkypNriAIAlJ3jNzR6q0sAXGgGAISIAgAgRBQAACGiAAAIEQUAQIgoAABCRAEAECIKAIAQUQAAhIgCACBEFAAAIaIAAAgRBQBAiCgAAEJEAQAQIgoAgBBRAACEiAIAIEQUAAAhogAACBEFAECIKAAAQkQBABAiCgCAEFEAAISIAgAgRBQAACGiAAAIEQUAQIgoAABCRAEAECIKAIAQUQAAhIgCACBEFAAAIaIAAAi5p/TiRc1yndh8zXLagiBQMD6h4sRE1KNUBsfKplMyycQJXxLMzKo4NqYgn3/tPxqPy2QyMrb0f98IcjkVxycUzMxEPQpQMk4pCs99frGcRHy+ZjltzpRR2wNFpX68Q8Xp6ajHKXu2qUH91/VocGPxhOeSqRetOu/uV+G53a8cNEa583u1/zJfubriwgx7BuJ9Vot/MipteyrqUYCScUpR+OE1/0OZTOn9BvjMbIN+b+pW9fzcl4jCmaut0dDbpvXDC/+nUs4bv7n/q903aXpHq7znXnXQOBrojesTN/xYv1WzY2FmPQNfPHyFnnxhgzLbop4EKB2nFIVON60ad2GiMFSY1J68q+HiiZcwXvbCbLPsrFmAqaqEdeTF8upyXSVPsFzYnRnQoy2L1bBs6SsHHUfTjdIy/7AWu+kFGvb0LUv26+FmR7Wv/v8gyUxMqXBsUEFuNqLJgOicUhQW0jdHe/UX912pxIG3HtHOSq2Pzqg4xVnCQrmh7lE98YE2PXt5XXjMmEDndj+rNbF+SaUfhUtSz+qe61fr2U3Nrzme2Nmqru8mVdi1J6LJgOiUbBR+dmyVlvx9UfF/2X5Srw/y+ddd9MT8uSwxowvWflsFBa857skq6ZR+ECTpnJjV91d+T7mVhdccv77l/crdXytnV0SDARFasCjMBDk9MSvtmm1RypnR2W+wxHCsMKHtM7U6nM/q2UPNWjKa48JxFGZzmjlWqztGl6rNG9JGv/913ytrHKVN6W06OBXWOEqa1y+PdaSHtau7VfXjvXKGx1U4dIQdSqgaCxaF3bm8bnn04/IerNF0Q6Arrtquv2j7pax55RrFXeM9+uI916vmeatFBwvy9r4kfvePwLFBLflBo25/+npNdAS6/qqH9Kctj0U91YL5cPOD+vNbUjowklXxkQ4tuVPK790X9VjAgliwKBwupGW216jtfz+hYPVS/WL9EhXbfiH7qtc8MrZU7T+Tknc9LAVF5YPghP8+zJ/C8IhiP9mmZuMo2LJWD2zsVmHRo68JeCW7MpnTZSvv1kyQ1xbzERV+nJH2Rj0VsDBOKQr/bbBb8VnvtL7QoyOLFT8WKJjNyZmY0fD+en1pyRp55pX13Pv39ahtOCcVC2/yb8KCCAIpKMiOz+jwvnp9qX21rHnj7anL/CO6JHFIjTa1wEPOH2sc+XLVkR3RwLou1aQ2hn9mioG8Q8Mq7D/IdSxUHBMEb/3r+OjoqLLZrM56/xdlY6e3juxOB8o+NajCzl2y2RrNntWjsQ5fetVO0sRAXqnt+5U/dPi0vgbmnq2r08xZ3RrvOPEn2Y9uLurLV31L70pNLuBkC+Onk57+6siFOjr9yjWVsRlfUz9pVvsdO1UYGopwOuDk5YOcfq67NDIyopqamhO+7pTOFLJ3PiLXnN6ZgiS9/Pt/YXhE9p+3q/YNXsPvXaWlMDQk92ePvuH3SpJkjIp2i3Zf2iKlKm8L55XJnK5c+s+vObYvP65L9n5WHXE/oqmA+VOyW1JRJoJAyWMFfWPXFu3paNKmzIu6PrVXdTYZ9WTzJmmMMm1jGnzbEsUHOpTYM6jCCy+x7ImKQBRwxtLbD8idbNUT2Y364eUbtOSqv9SlidK/99Hpyjpx/cna7+uH7Ru1a7RJh77XqZa/OsINGVERiALOWP5gn9yDffJcVzWLN+vwZVlJlbvW7hmrdySn9Y7kQ9rRNK3f6vzXMh5/lVAZqmOPIQDgpBAFAECIKABnKJAkayXDnXpR/lgIBc5ArZNXevWQDn5wleJDgeqfGFbxyefZiYSyRRSAM9BqE7p9/bf0zMp23T+8Qo99c52an3UVzBAFlCeiAJwBz1ht9q02+/1qc4f0UO36qEcCzgjXFAAAIaIAAAgRBWCOWFNU0ZOcmho5qZSMy+osyg8/tcAcWeKOqOGCw9qdXCb/mFHbfWPSI09GPRZwSogCMEcWuwl9u/cOHV0Z07cHt+hfhs9Tw6/Mr59NAZQJlo+AOeIZq8VuWuf4Ma1LHVDBN1KVPK0OlYOfWABAiCgAAEJcU8AZc5JJOfV1ChK+ZrNS0pmJeiQAp4ko4Izlz16hvdclVGib0abu57Qm1i8p/Zb/HIDSQxRwxkZ6EvrANffpsw3b5Mkq6RAEoFwRBZyxwJGydkpZJxH1KCUj40xrukly1q+UmZiWjhxTYXQ06rGAt8SFZmAenO336eJrH9OBL0jPfrpJubN6oh4JOClEAZgHS720vtL+oLZt/qY+dMkDGuv0ox4JOCksH+G02Nqsgq425TO+xhcbNbosjfwmaxxZOfJMQQFPZUOZIAo4Lfk1S7XrgzF19fTr2oYduiixV+w4AsofUcBpmWzx9c5zt+u/t/3q+BGCAFQCringtDmGG70BlYYoAABCRAEAEOKaAjDPlvlHNLAhkJ3dovhATomnDih/+EjUYwFviDMFYJ69PXlAf3Td93Tpv/2FDtyW18yq9qhHAk6IMwWcOmMktt2ftGab0i01/VJNvwZyKe3MrhM3BEGpIgo4aW5ri8Y3LdZEi9XQmkDrkgeiHgnAHCMKOGm57hYdunlan11/r9q8IW2JH5WUinosAHOIKOCtOVbGWs3UeFrf/qI+WXvw+B8QBKDSEAW8KbuoWaMXLtXIUquJJQW9p35X1CMBmEdEAW8qaG3UoRtn9V83/z81uaPq9SbEGQJQuYgC3lQx7qq5YVQ3pIZljSOCAFQ2PqcAAAgRBQBAiCjg9YyRk8nINjYoVxNT3M1HPVHF8J28cilHtqlJtqZGcmzUIwGvwTUFvI5tbNSxdyzTwPpAap7RZ9u3H7+egDN1efZp3fueFerf3KOa3Y7aftSn/J69UY8FhIgCXq8+q4HLpvWDi76irFNQvROTFIt6qopwVXJE5557u6Y3SR945iOafaJODlFACSEKeD3ryPPzWupaJR3u0jOXfOOp1fUkSXXxKc262YgnAl6LNQEAQIgoAABCRAEAECIKAIAQUQAAhNh9BEmScV3Zjjblm7MaWZJSc/aIrOHxavOpNTGqx5d3qXFqvezghIJ9B1Wcno56LFQ5ogBJklNXpwM3dih22TG1Z/p1S9uDcsWnbefTrc336au3uHpxtF4DjyxS9x1FafeLUY+FKkcUIEkyybhGe3N6eMM31GxfvhMqq4vzaWvc0dYlP1cuKGhL7v0q3pWMeiSAv/V4FRPwAxEBR0YOK3UoEbwHAABCRAEAEOKaQhUzrivTu0zjPVlNNjlq6zgij7uhAlWNKFQxJ53SgSvq1fvuZ7UyfUSXZZ5W2vhRjwUgQkShmrmuJtuK+k8dd2uFx46jyPG5EJQA3gGAEnDuon3ad02NBm89X4VLz5aTyUQ9EqoUZwpAxKxx9Lnme7Tl5t06MNugr9/zNq3aW6fi2FjUo6EKEYVqZIyMtTKep8CRrIKoJ6p6PV5aPd4xjRcP6P+0nK8g5kU9EqoUUagyxnUVbOpV/1kpzdQada7pU4ZPTgE4jihUGROLqW9rWtd98AFtSe/Wcu+YGnjkJoDjiEK1MUa5jPSO7OPaGnckcb8dAK9g9xEAIEQUAAAhlo+qhPF9OcmkTDqlQjxgx1EJ87yCitmkbEO9gqlpFaempIDvFxYGUagGxqiwpVcvXZrQTGNB69fvUYc7JSkd9WT4Db7x9J7lj+tvPnGe3IGVat5WVM2Pn+EzC1gwRKEKGGt1bF1Ct773J3p35gllHaM6hwvMpcgzVr/f+Ihuu+KX2l9I66P+J1X7QIooYMEQhSpR9KTu2FH1eJwdlLqsk1DWkeJmXMV4UXK49IeFw08bACBEFAAAIZaPKpiTychpalAxHdd0Q6CUMxP1SABKHFGoYLlNy7Xnhpj8tgldvHiHemMDYscRgDdDFCrYyBJfn3j7PfpM/TNy5MgzBAHAmyMKlcxIvpOTb7gNcznyjFGsbloTG9oVb62XPTSo/KEjUrEQ9WioYFxoBkpUxonp8+t/Kv9zh7T/3wU6cnWXnEQ86rFQ4YgCUKJ84+m27GH9aNUPdOc5X9fI8l/f+hyYT0QBKHHWONyrCguGKAAAQkQBABBi91GFcVsWabq3QzP1rgbXBur0BqMeCUAZIQoVZmpthw58LKdrlz+hdckDuihxSFIq6rEAlAmiUGFm6j29c/lj+rPW7cePEAQAJ49rCgCAEFEAAIRYPqoUjpVxjAJHcgx72iuSI8l1JcdKQZHnNmNeEIUK4Ha0a2hrpyZaHY2uyuuc1N6oR8Icq3cKalzXr323LZc/GKjpsXEFjz7DfZAw54hCBZjtadb4+0f071f/WG3ekNZ5k5J4BnMlabQJ/eXqv9azPYt0/9gK/fybm9Wyw1UwQxQwt4hCBcjHrXqbjuh9maHjRwhCpfGM1ZpYQmtio6q1j+mnmc0yxnDzC8w5LjQDAEJEAQAQYvmoXDlWTiopE/OUS1vFnHzUEwGoAEShTLntrTpydaeGV0imfUq/W/9k1CMBqABEoUwVWuo0+45h3b3x60o5RTU6MUk8gAXAmSEKZaroOqpNTGt1jJ1GAOYOF5oBACGiAAAIsXwElJm4yWm2riitXCp3bErBsUEVRkejHgsVgjMFoMx0u5O69tJHtfePXO383CJNXbBSMibqsVAhOFMAykyrm9aftT6kXMuD+uuxJfrqMzeo2ThSwH2QcOaIQhkxvi/b3qpCQ0bDy5PqSh2IeiRExDNWnrFKOTMKON/HHCIKZcQ2N2nvTW2KX3BMnTX9+ljLfVGPBKDCEIUyEtSkVDx7TPef9dfyjStr+BURwNziXaWMBMbImEDWGIIAYF7wzgIACBEFAECIawolzvi+zOoeTXSlNdbualnTHjm0HMe1uMMaXVlQ+sZNio3kldh5SPmDfVGPhTJGFEqcra/Tnutrde7VT2lpckDXZHbIMzbqsVAiNsRG9ceXf1/bt3TpZ/tWqPHr7fKJAs4AUSh1fkzTi2f15x3/qEabkkQQ8IpGm9ItNf26paZfX/KH9b2Gy+VHPRTKGusQAIAQUQAAhFg+KlXGSMaRHEcykhU3PAMw/4hCCTK+r8K5qzWwNqHpBqMNPS/I48NqABYAUShBTjqlly5L6kPvuVcr44e0zj+khElEPRaAKkAUSpFjNVtX1E3ZR9XjpSWlop4IZcAxRRU8yUkmFRQKCmZnpSCIeiyUGaIAVIgN8X26/bIpTbZsVPJwoOb7jqiwa0/UY6HMEAWgQlwYn9BdF3xVR89L6T+/eJ0mDy2STxRwirh6WUKM78vWZqVsWsVYkW8OTknSiWlNLKFLE0WtzPar4PMThFPHmUKJMF5Ms5es06ELYpqpL2jrxudU6/CXGsDCIgolwsQ8HdkU0x+877s6L75XTTZQneUCM4CFRRRKheOo4Eu9/kGtjiWjngZAlWJ9AgAQIgoAgBBRAACEiAIAIEQUAAAhdh9FzDY2KGhpUr42rpmmvOKmIMmLeiwAVYooRMmxGrtomQ7ekNOi5hHd1v60Om0x6qkAVDGiECFjrUaWWv3p+XfqhtSwJMkaPqMAIDpcU4iakawpyhpHlgfpYI50+EMaWmFVeNvZcjb2ytbURD0SygTvQkAFur7mcV1z0y8V/8IhPXdrRkF3R9QjoUywfARUoDWxhP605TGpRbrBXKWx+g7+suOk8HMSAbezQ1MrF2k262pseV5NdlSctAEoBUQhAqOb2jXykVFd2P6iPpbZo15vWhIXmAFEjygsNGM01ejo48t/oU/XvXT8IEHAPDNRD4BywZoFUOE21B5Q30W+Rj64RYW3nf3rp/sBJ8CZAlDhbql9WItvGtCB2Xr91S8v1Or+Fml4JOqxUKKIwkIyRsZaBY7kGD65jIWx1EvrtuxhFYI+/bBzjYoJP+qRUMKIwgJxl3ZpcEurphscDZ8zo+Wxw1GPBACvQxQWyPiaRfJuOaJPdd2vJbFjOjs2LSke9VgA8BpEYYHkUo4uan5RH645dvwIQQBQeth9BAAIEQUAQIjlo/nkWDmJuIznKh83iju5qCcCgDdFFOaR7V6sQ1e2amJxIKd7XOendkc9EgC8KaIwj2a66lV740F9c/nfKmPyanN98ahNAKWMKMyjoueoNTmq9TF2GqE0pGKzmmnIKtnaomBqSoXRcalYiHoslBAuNANVwhpHN7Vv08Fbctr5h106+u5e2Yb6qMdCieFMAagiH83u1bsv/IqGi9LVmU+r6YEa6ejRqMdCCSEKQBXxjadm6yltZuXGCpJlsQCvxU8EACBEFAAAIZaP5pgTj8tpa1Ehm9Jol6sN8bGoRwKAk0YU5pjp6tALNzcpuXFQ3XW79N66R8QJGYByQRTmWL4xrebzDuvetd+VIyNrCAKA8kEU5oFjAnnGRj0GAJwyfo0FAISIAgAgxPLRHHBSKQWrlmiqNaXhZa42Z3dFPRLwpqwx6moeVP/WDqWX1iqxb0zBc3sU5GajHg0RIwpzwFnUpOd/u0bnX/y0LkoM6bey2yT5UY8FnJArq/+w9G7d/Ttn6cWJBu38xxXq+tqACtzyouoRhTlQTMcVXzGiry2+V77xRBBQ6qxxdHFcurjlMfUXJnTeks/I+LGox0IJ4JoCACBEFAAAIaJwJox55X9AOTP69R1T+VmuelxTOE1OKqXZ81ZpeHlMky1GF7Y9IYfGogz5xtHKnj699L4uxQc6VP/0pJxtO9mJVKWIwmly6mr10jUx/c41P1FHbEDn+AflmXTUYwGnLG18/Vn3d/X4rR16erJdd33nQnXtTKgwTBSqEVE4XZ6rYtOsPpp9SnU2KYkgoDxZ42hNLKE1sQHt9Pfr7+q2Styzq2rxnQcAhIgCACBEFAAAIaIAAAgRBQBAiN1Hp8IYOcmkTDqlQmONXD8vhw/7AKggROEUOMmkRq9dq8PnGxXrcrp59SOKG/4TAqgcvKOdApNM6shmR9+44avqdsdV67jyTTzqsQBgzhCFU+EYFf2ilrjj6nD5sBoqT8wUVcgUVFzSJjebUTA8osLwSNRjYQERBQChRmv17nO36Qc161UYalXHP7Uo+cPHuQ9SFWH3EYBQ1knov7Q8rG0Xf1VfvvJbGuh1ZTx+d6wmfLffijGyzU0Kmuo125SUanOUFBXNN55846nWTiqwUU+DhUYU3oLj+xq6rFv9186ooW5Mn+rarnqHxxYCqExE4a14noZWGf3NBX+pc3zJkZE1RAFAZSIKJyEwkmcK8ogBgArH8jgAIEQUAAAhlo8AvKFaZ1pTS2Y1fvU6xYbziu86ovz+A1GPhXnGmQKAN9TlBvqPW/9eq/7gKQ19ZlxDF3RIDntUKx1RAPCGsk5CH645pq91PqjPr/ypJhc5Mg53Ba50LB+9EWNkV/RorLdB07WOguUTqnVmJbH7CEBlIwpvwFiroxc0qeFD+3R5w4s6L/WCWi1BAFD5iMIbMY6mm4x+p/Of9a7U5PGDRAFA5eOaAgAgRBQAACGWj17NGBlrZeK+ilayphj1RACwoIjCqzjrVqp/S52mG4yczcPqdIcl8bhNANWDKLzMGA1uqNOajz6tDzQ9rE53WMt4uAiAKsO73qvkk9KFtbt1dXJGUiLqcQBgwXGhGQAQIgoAgFDVLx8ZLyanJi0TiymXMoqZfNQjASUn7uSUS0l2UbOC6WkVxycUzMxEPRbmAVFYs0wvXVOrqdaC2lYc1kZ/vyQ/6rGAkrLS61fz2w9qZ1un4oetOv9pTHrkyajHwjyo+iiMLs9oy/U79IW2HytpjLIOW1CB37TCi+s7q76tyZWB/vzopfrlvnNV+0jUU2E+VH0UAmvUGh/RYjcd9ShAybLGUaNNSZLa/SEVq/6do3JxoRkAECIKAIAQUQAAhIgCACBEFAAAIaIAAAgRBQBAiCgAAEJV+REU21Cv/IpOzdbFNLja0WJ/IOqRgLLR5g1rZKWUuvZcxUZycp8/qMLRo1GPhTlSlVHIr+zUro/GdH7vbl2Z6dMVyecl8Ylm4GRcknhJH7/up3rsosV6aPdSdX+jU/bnRKFSVGUUZutiumjtc7qj677jRwgCcLI63LR+v/4Fqf4FfSY+pm0N5ygV9VCYM1UTBVtXp9kNSzW5KKbBXkdXpo5EPRIAlJyqiUJxSZteuNnqtzc9pKX+UV2Vek6cIQDAa1VNFAopT8u6D+tLix4/foQgAMBvYksqACBEFAAAocpfPnKsjLUKPEdWQdTTABXFqqjAGhkvJgVFBXmecV7uKjoKtqFe4xct03CPq4mOom5r2hX1SEBFOTf9or53+TlKL96k9MGi6u/fr/yBg1GPhTNQ0VHQokbtf2dRX7rob9Rsx9QbG5PYUQ3MmWtSfeq8/HYdfVuN/vjpdyq9v0kOUShrFR2FwLPKNEzoxtSgPGNFEIC5lXUS2hqXpHHdUX9Mw/HFXKgsc3z/AAAhogAACBEFAECIKAAAQkQBABCqvN1HjpWty8qkU5psSSkTH4x6IgAoGxUXBVtfq/4bV2hgc17J+kn9XtdDcmSiHgsAykLFRcHUZDSwJad7Lv+yGq1V0sRkjY16LAAoCxV3TSFwjIxXVKO1yjqJ4x9aAzDfGvxJjXfE5KxdJberU8b3ox4Jp6HiogAgGu9rfEh1H9qvvV/wtPfmTjmdbVGPhNNQcctHAKJxWaKgi1fdpVxQ0CWJD6pwDw+yKkdEAcCc8YyVIyPXFiSHDR7liOUjAECIKAAAQhWxfGRcV07PEs10ZDXcFtOipn5ZPpsAAKesIqLgZDI6cF2zWq/dp42ZAd1Yv10JE4t6LAAoOxURBePHNN5d0NeW/18tdl/e8cDKGACcKt45AQAhogAACBEFAECIKAAAQkQBABAq791HxshYK7muAieIehoAKHtlGwXjuipuXqP+jSnN1EkrV76kjOHEBwDORPlGIZFQ38Upvff9P9em1B4t9wZU4ySiHgsAylr5RsEYzdYEur7mMW30fUmpqEcCcJw1gYq+lZtMKsjlFeRmox4JJ4n1FgBzyhpH17Y9rd03edr7bzZq7MazZRvqox4LJ6lszxQAlK5P1T2ma6/Zof5CWp/4l48o+3idNDAY9Vg4CWUXBeP7cpJJmdoaFf1AjmHXEVBq6mxSdVaaLE7Iz8xILs9KLxflFQXHKrd1rQ5e4mu2oaBNG3epxRaingoAKkZZRcF4ro5t8PXp996tq1M7lXWM6thxBABzpqyiIEkFX+qJ9avH46HgQKmzxigZn9XsorT8sQ4F4xMqDA9LAcu+pYrdRwDmjSurD/c8rH2fyOuZP2zTsXetks3WRD0W3kTZnSkAKB/WOPpU7S59ZOsz6isYXaffU9O9aWl4JOrRcAJlEQVbUyM1NyhIxTVTGyjpzEQ9EoCT5BtPvvWU04TkFiXD89NLWelHwRhNb1mhve+yirdM6Kqu7VrujkvimgIAzLXSj4KkkaWePvf2f9DHsnvkyJFnCAIAzIeyiEJgpLjJyTde1KMAQEVj9xEAIEQUAAAhogAACBEFAECIKAAAQiW7+8htb9PU6lbN1roa7i2q3RuKeiQAZ8A3jlrah3Tkyk4lj7UpvXtExedeUJDPRz0aXqVkozCxoV39t07pyqVPaGNqnzb5g+KRm0D5SpqY/mTF9/XT312r3RNNevb7K9Vx8LAK3PKipJRsFKbrrN67/DH9x6anjx8hCEA584zVpYmiLk3s0PO5CV3b9jnJLdm3oKrFNQUAQIgoAABCRAEAECIKAIAQUQAAhIgCgAVnFajoSiaRkBOPy7ALqWTwnQCw4LKOUe+Gl/T8p5bIH1qslkemZB98kg+ylQCiAGDB1TkJfaX7O+pbnND9kyt0h7lKHb+KEYUSUFLLR8Z1ZWtqZBvqlU8a+YYfEKASWeNosZvWlrjVBcldyifFs5tLREmdKTg9S3Tw6mZNdARKLh/WBaldUY8EAFWlpKIw2V2n9hv26svd31HSBGqyviQewQkACyXyKBjXlVOblYnHNdzoan3mqFZ43OcIAKIQeRScJZ06cH2rxlbm1Ng2oGtrd0Q9EgBUrcijkGvJquaKw7pnzbfkySjt+JJs1GMBQFWKPAqyRilvVs2WJSMAiFpJbUkFAESLKAAAQkQBABAiCgCAEFEAAIQi2X3kJJNS92LNNqc0uNrX5sxAFGMAKAEZZ1bT7TlNXdKr2EhO3t5+5Q/2RT1W1YokCqZtkXZ/oE4rLtirralBfbjxAXE7C6A6dbmB/mDrj3TPqtXa2b9ItX+7WOnvHpGKhahHq0qRRKGYSSq1ZkjfX/4P8owVQQCqV9ZJ6JO1B/XJ2oP6u0VZffGBm5VxjIJi1JNVJ64pAABCRAEAECIKAIAQUQAAhIgCACBEFAAAIaIAAAgRBQBAiCgAAEJEAQAQIgoAgNDC3fvIGDmJhIzvK5eOyXPHF+xLAygPMVNQPi45dXXSzIyKk5MK8vmox6oqCxYFW1+noStXaGCDUa4xp4937pAjs1BfHkAZWO4dVd0lh/V8Q4/iRx113DsqbXsq6rGqyoJFwWRrdPjtBd152f9Sk51So7WyJrFQXx5AGVjhxfSd3js0uMrq9mMX6+G+TardFvVU1WXBohBYRzaZ19pYTmknvVBfFkAZ8YxVq5tWq6TuxFH9krvqLzguNAMAQkQBABCa++UjY2Tr66S6rGRteHi6M6tkanLOvxyAypRxpjXdaGRXLpOZnlHx6ICKk7yHzLc5j4Lj+xq+YoUOXZ6XTb6ylSyZnNTHl/9CvmGREMBb25J4Ucuv26UnN7bLvNSk7u/VSr96MuqxKt6cR8HEfQ2sM7rz7bdrbSwXHnfkyDP2+DOZAeDNrYkldGfPj5TrLujzhy7Vjm0blPpV1FNVvnnZfRRYKenklHbi8/GvB1AlfOPJN54Szqz4WNPC4EIzACBEFAAAIaIAAAgRBQBAiCgAAEIntfsoCAJJUl45KXir186qOD2t8bGiRmPFMx4QAGbGc8rnppUPcm/9YryhvH793+7l9/MTMcFbvULSgQMH1NnZOTeTAQAis3//fnV0dJzwz08qCsViUX19fcpkMjKGzcIAUG6CINDY2Jja2trkOCe+cnBSUQAAVAcuNAMAQkQBABAiCgCAEFEAAISIAgAgRBQAACGiAAAI/X8Tm7LP2QNdbQAAAABJRU5ErkJggg==",
      "text/plain": [
       "<Figure size 640x480 with 1 Axes>"
      ]
     },
     "metadata": {},
     "output_type": "display_data"
    }
   ],
   "source": [
    "show(data_points[0][0].squeeze(0)) "
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 30,
   "id": "813533c1",
   "metadata": {},
   "outputs": [],
   "source": [
    "class CDS(Dataset):\n",
    "    def __init__(self, lof_points):\n",
    "        self.lof_points = lof_points \n",
    "    def __len__(self):\n",
    "        return len(self.lof_points) \n",
    "    \n",
    "    def __getitem__(self, idx):\n",
    "        pair = self.lof_points[idx] \n",
    "        return pair \n",
    "\n",
    "\n",
    "\n",
    "dl_points = CDS(data_points) \n",
    "\n",
    "train_size = int(0.75 * len(dl_points))\n",
    "test_size = len(dl_points) - train_size\n",
    "\n",
    "splits = torch.utils.data.random_split(dl_points, [train_size, test_size])     \n",
    "train = splits[0] \n",
    "val = splits[1]\n",
    " "
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 33,
   "id": "ee95a85a",
   "metadata": {},
   "outputs": [
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "torch.Size([1, 128, 128])\n"
     ]
    }
   ],
   "source": [
    "\n",
    "def highest_idx(vals):\n",
    "    m = None\n",
    "    out_idx = None \n",
    "    \n",
    "    for idx, val in enumerate(vals):\n",
    "        if m is None or val > m:\n",
    "            m = val \n",
    "            out_idx = idx\n",
    "    return out_idx \n",
    "\n",
    "class ImitationNN(pl.LightningModule):\n",
    "    \n",
    "    def __init__(self):\n",
    "        super().__init__()\n",
    "        \n",
    "#         self.layers = nn.Sequential(\n",
    "#             nn.Linear(in_features=128*128, out_features=len(categorical_variables)), \n",
    "#         )\n",
    "        self.layers = nn.Sequential(\n",
    "            nn.Linear(in_features=128*128, out_features=64*64), \n",
    "            nn.Linear(in_features=64*64, out_features=32*32), \n",
    "            nn.Linear(in_features=32*32, out_features=len(categorical_variables)), \n",
    "            nn.Softmax(), \n",
    "        )\n",
    "        \n",
    "        self.loss = nn.CrossEntropyLoss()\n",
    "        \n",
    "        \n",
    "        \n",
    "          \n",
    "    def configure_optimizers(self):\n",
    "\n",
    "        optimizer = torch.optim.SGD(self.parameters(), lr=0.01)\n",
    "        return optimizer \n",
    "    \n",
    "    def training_step(self, batch, batch_idx):\n",
    "        feats, target = batch \n",
    "        \n",
    "        pred = self.forward(feats) \n",
    "        \n",
    "        pred_idx = highest_idx(pred) \n",
    "        \n",
    "        labels = torch.Tensor(np.zeros(len(pred)))\n",
    "        labels[target] = 1 \n",
    "        \n",
    "        loss = self.loss(pred, labels)\n",
    "        self.log(\"train_loss\", loss, prog_bar=True)\n",
    "        \n",
    "        return loss \n",
    "          \n",
    "        \n",
    "    \n",
    "    def validation_step(self, batch, batch_idx):\n",
    "        feats, target = batch \n",
    "        pred = self.forward(feats) \n",
    "        \n",
    "        pred_idx = highest_idx(pred) \n",
    "        \n",
    "        labels = torch.Tensor(np.zeros(len(pred)))\n",
    "        labels[target] = 1 \n",
    "        \n",
    "        loss = self.loss(pred, labels)\n",
    "        self.log(\"val_loss\", loss, prog_bar=True)\n",
    "        \n",
    "        return loss \n",
    "          \n",
    "\n",
    "    def forward(self, x):\n",
    "        flatten = torch.flatten(x) \n",
    "        return self.layers(flatten)  \n",
    "\n",
    "print(train[0][0].shape)\n",
    "model = ImitationNN() \n"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 34,
   "id": "f2d35d72",
   "metadata": {},
   "outputs": [
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "GPU available: False, used: False\n",
      "TPU available: False, using: 0 TPU cores\n",
      "IPU available: False, using: 0 IPUs\n",
      "HPU available: False, using: 0 HPUs\n",
      "\n",
      "  | Name   | Type             | Params\n",
      "--------------------------------------------\n",
      "0 | layers | Sequential       | 71.3 M\n",
      "1 | loss   | CrossEntropyLoss | 0     \n",
      "--------------------------------------------\n",
      "71.3 M    Trainable params\n",
      "0         Non-trainable params\n",
      "71.3 M    Total params\n",
      "285.258   Total estimated model params size (MB)\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "                                                                                                                                                                                                          "
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "/Users/ryankennedy/opt/anaconda3/envs/robotics/lib/python3.8/site-packages/torch/nn/modules/container.py:217: UserWarning: Implicit dimension choice for softmax has been deprecated. Change the call to include dim=X as an argument.\n",
      "  input = module(input)\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Epoch 0: 100%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1453/1453 [02:56<00:00,  8.25it/s, v_num=103, train_loss=1.040]\n",
      "Validation: 0it [00:00, ?it/s]\u001B[A\n",
      "Validation:   0%|                                                                                                                                                                 | 0/485 [00:00<?, ?it/s]\u001B[A\n",
      "Validation DataLoader 0:   0%|                                                                                                                                                    | 0/485 [00:00<?, ?it/s]\u001B[A\n",
      "Validation DataLoader 0:   0%|▎                                                                                                                                           | 1/485 [00:00<00:10, 45.09it/s]\u001B[A\n",
      "Validation DataLoader 0:   0%|▌                                                                                                                                           | 2/485 [00:00<00:10, 45.54it/s]\u001B[A\n",
      "Validation DataLoader 0:   1%|▊                                                                                                                                           | 3/485 [00:00<00:10, 46.37it/s]\u001B[A\n",
      "Validation DataLoader 0:   1%|█▏                                                                                                                                          | 4/485 [00:00<00:10, 46.35it/s]\u001B[A\n",
      "Validation DataLoader 0:   1%|█▍                                                                                                                                          | 5/485 [00:00<00:10, 45.72it/s]\u001B[A\n",
      "Validation DataLoader 0:   1%|█▋                                                                                                                                          | 6/485 [00:00<00:10, 45.55it/s]\u001B[A\n",
      "Validation DataLoader 0:   1%|██                                                                                                                                          | 7/485 [00:00<00:10, 45.83it/s]\u001B[A\n",
      "Validation DataLoader 0:   2%|██▎                                                                                                                                         | 8/485 [00:00<00:10, 45.13it/s]\u001B[A\n",
      "Validation DataLoader 0:   2%|██▌                                                                                                                                         | 9/485 [00:00<00:10, 44.74it/s]\u001B[A\n",
      "Validation DataLoader 0:   2%|██▊                                                                                                                                        | 10/485 [00:00<00:10, 44.46it/s]\u001B[A\n",
      "Validation DataLoader 0:   2%|███▏                                                                                                                                       | 11/485 [00:00<00:10, 44.38it/s]\u001B[A\n",
      "Validation DataLoader 0:   2%|███▍                                                                                                                                       | 12/485 [00:00<00:10, 44.22it/s]\u001B[A\n",
      "Validation DataLoader 0:   3%|███▋                                                                                                                                       | 13/485 [00:00<00:10, 43.97it/s]\u001B[A\n",
      "Validation DataLoader 0:   3%|████                                                                                                                                       | 14/485 [00:00<00:10, 43.62it/s]\u001B[A\n",
      "Validation DataLoader 0:   3%|████▎                                                                                                                                      | 15/485 [00:00<00:10, 43.48it/s]\u001B[A\n",
      "Validation DataLoader 0:   3%|████▌                                                                                                                                      | 16/485 [00:00<00:10, 43.30it/s]\u001B[A\n",
      "Validation DataLoader 0:   4%|████▊                                                                                                                                      | 17/485 [00:00<00:10, 43.22it/s]\u001B[A\n",
      "Validation DataLoader 0:   4%|█████▏                                                                                                                                     | 18/485 [00:00<00:10, 43.10it/s]\u001B[A\n",
      "Validation DataLoader 0:   4%|█████▍                                                                                                                                     | 19/485 [00:00<00:10, 42.95it/s]\u001B[A\n",
      "Validation DataLoader 0:   4%|█████▋                                                                                                                                     | 20/485 [00:00<00:10, 42.84it/s]\u001B[A\n",
      "Validation DataLoader 0:   4%|██████                                                                                                                                     | 21/485 [00:00<00:10, 42.69it/s]\u001B[A\n",
      "Validation DataLoader 0:   5%|██████▎                                                                                                                                    | 22/485 [00:00<00:10, 42.70it/s]\u001B[A\n",
      "Validation DataLoader 0:   5%|██████▌                                                                                                                                    | 23/485 [00:00<00:10, 42.62it/s]\u001B[A\n",
      "Validation DataLoader 0:   5%|██████▉                                                                                                                                    | 24/485 [00:00<00:10, 42.67it/s]\u001B[A\n",
      "Validation DataLoader 0:   5%|███████▏                                                                                                                                   | 25/485 [00:00<00:10, 42.59it/s]\u001B[A\n",
      "Validation DataLoader 0:   5%|███████▍                                                                                                                                   | 26/485 [00:00<00:10, 42.63it/s]\u001B[A\n",
      "Validation DataLoader 0:   6%|███████▋                                                                                                                                   | 27/485 [00:00<00:10, 42.56it/s]\u001B[A\n",
      "Validation DataLoader 0:   6%|████████                                                                                                                                   | 28/485 [00:00<00:10, 42.42it/s]\u001B[A\n",
      "Validation DataLoader 0:   6%|████████▎                                                                                                                                  | 29/485 [00:00<00:10, 42.42it/s]\u001B[A\n",
      "Validation DataLoader 0:   6%|████████▌                                                                                                                                  | 30/485 [00:00<00:10, 42.57it/s]\u001B[A\n",
      "Validation DataLoader 0:   6%|████████▉                                                                                                                                  | 31/485 [00:00<00:10, 42.53it/s]\u001B[A\n",
      "Validation DataLoader 0:   7%|█████████▏                                                                                                                                 | 32/485 [00:00<00:10, 42.48it/s]\u001B[A\n",
      "Validation DataLoader 0:   7%|█████████▍                                                                                                                                 | 33/485 [00:00<00:10, 42.51it/s]\u001B[A\n",
      "Validation DataLoader 0:   7%|█████████▋                                                                                                                                 | 34/485 [00:00<00:10, 42.43it/s]\u001B[A\n",
      "Validation DataLoader 0:   7%|██████████                                                                                                                                 | 35/485 [00:00<00:10, 42.29it/s]\u001B[A\n",
      "Validation DataLoader 0:   7%|██████████▎                                                                                                                                | 36/485 [00:00<00:10, 42.18it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:   8%|██████████▌                                                                                                                                | 37/485 [00:00<00:10, 42.14it/s]\u001B[A\n",
      "Validation DataLoader 0:   8%|██████████▉                                                                                                                                | 38/485 [00:00<00:10, 42.08it/s]\u001B[A\n",
      "Validation DataLoader 0:   8%|███████████▏                                                                                                                               | 39/485 [00:00<00:10, 42.02it/s]\u001B[A\n",
      "Validation DataLoader 0:   8%|███████████▍                                                                                                                               | 40/485 [00:00<00:10, 42.04it/s]\u001B[A\n",
      "Validation DataLoader 0:   8%|███████████▊                                                                                                                               | 41/485 [00:00<00:10, 42.15it/s]\u001B[A\n",
      "Validation DataLoader 0:   9%|████████████                                                                                                                               | 42/485 [00:00<00:10, 42.14it/s]\u001B[A\n",
      "Validation DataLoader 0:   9%|████████████▎                                                                                                                              | 43/485 [00:01<00:10, 42.09it/s]\u001B[A\n",
      "Validation DataLoader 0:   9%|████████████▌                                                                                                                              | 44/485 [00:01<00:10, 42.10it/s]\u001B[A\n",
      "Validation DataLoader 0:   9%|████████████▉                                                                                                                              | 45/485 [00:01<00:10, 42.10it/s]\u001B[A\n",
      "Validation DataLoader 0:   9%|█████████████▏                                                                                                                             | 46/485 [00:01<00:10, 42.23it/s]\u001B[A\n",
      "Validation DataLoader 0:  10%|█████████████▍                                                                                                                             | 47/485 [00:01<00:10, 42.34it/s]\u001B[A\n",
      "Validation DataLoader 0:  10%|█████████████▊                                                                                                                             | 48/485 [00:01<00:10, 42.45it/s]\u001B[A\n",
      "Validation DataLoader 0:  10%|██████████████                                                                                                                             | 49/485 [00:01<00:10, 42.58it/s]\u001B[A\n",
      "Validation DataLoader 0:  10%|██████████████▎                                                                                                                            | 50/485 [00:01<00:10, 42.58it/s]\u001B[A\n",
      "Validation DataLoader 0:  11%|██████████████▌                                                                                                                            | 51/485 [00:01<00:10, 42.63it/s]\u001B[A\n",
      "Validation DataLoader 0:  11%|██████████████▉                                                                                                                            | 52/485 [00:01<00:10, 42.62it/s]\u001B[A\n",
      "Validation DataLoader 0:  11%|███████████████▏                                                                                                                           | 53/485 [00:01<00:10, 42.71it/s]\u001B[A\n",
      "Validation DataLoader 0:  11%|███████████████▍                                                                                                                           | 54/485 [00:01<00:10, 42.74it/s]\u001B[A\n",
      "Validation DataLoader 0:  11%|███████████████▊                                                                                                                           | 55/485 [00:01<00:10, 42.77it/s]\u001B[A\n",
      "Validation DataLoader 0:  12%|████████████████                                                                                                                           | 56/485 [00:01<00:10, 42.89it/s]\u001B[A\n",
      "Validation DataLoader 0:  12%|████████████████▎                                                                                                                          | 57/485 [00:01<00:09, 42.97it/s]\u001B[A\n",
      "Validation DataLoader 0:  12%|████████████████▌                                                                                                                          | 58/485 [00:01<00:09, 42.99it/s]\u001B[A\n",
      "Validation DataLoader 0:  12%|████████████████▉                                                                                                                          | 59/485 [00:01<00:09, 43.09it/s]\u001B[A\n",
      "Validation DataLoader 0:  12%|█████████████████▏                                                                                                                         | 60/485 [00:01<00:09, 43.12it/s]\u001B[A\n",
      "Validation DataLoader 0:  13%|█████████████████▍                                                                                                                         | 61/485 [00:01<00:09, 43.16it/s]\u001B[A\n",
      "Validation DataLoader 0:  13%|█████████████████▊                                                                                                                         | 62/485 [00:01<00:09, 43.26it/s]\u001B[A\n",
      "Validation DataLoader 0:  13%|██████████████████                                                                                                                         | 63/485 [00:01<00:09, 43.39it/s]\u001B[A\n",
      "Validation DataLoader 0:  13%|██████████████████▎                                                                                                                        | 64/485 [00:01<00:09, 43.46it/s]\u001B[A\n",
      "Validation DataLoader 0:  13%|██████████████████▋                                                                                                                        | 65/485 [00:01<00:09, 43.50it/s]\u001B[A\n",
      "Validation DataLoader 0:  14%|██████████████████▉                                                                                                                        | 66/485 [00:01<00:09, 43.52it/s]\u001B[A\n",
      "Validation DataLoader 0:  14%|███████████████████▏                                                                                                                       | 67/485 [00:01<00:09, 43.43it/s]\u001B[A\n",
      "Validation DataLoader 0:  14%|███████████████████▍                                                                                                                       | 68/485 [00:01<00:09, 43.40it/s]\u001B[A\n",
      "Validation DataLoader 0:  14%|███████████████████▊                                                                                                                       | 69/485 [00:01<00:09, 43.38it/s]\u001B[A\n",
      "Validation DataLoader 0:  14%|████████████████████                                                                                                                       | 70/485 [00:01<00:09, 43.45it/s]\u001B[A\n",
      "Validation DataLoader 0:  15%|████████████████████▎                                                                                                                      | 71/485 [00:01<00:09, 43.53it/s]\u001B[A\n",
      "Validation DataLoader 0:  15%|████████████████████▋                                                                                                                      | 72/485 [00:01<00:09, 43.62it/s]\u001B[A\n",
      "Validation DataLoader 0:  15%|████████████████████▉                                                                                                                      | 73/485 [00:01<00:09, 43.69it/s]\u001B[A\n",
      "Validation DataLoader 0:  15%|█████████████████████▏                                                                                                                     | 74/485 [00:01<00:09, 43.75it/s]\u001B[A\n",
      "Validation DataLoader 0:  15%|█████████████████████▍                                                                                                                     | 75/485 [00:01<00:09, 43.83it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  16%|█████████████████████▊                                                                                                                     | 76/485 [00:01<00:09, 43.90it/s]\u001B[A\n",
      "Validation DataLoader 0:  16%|██████████████████████                                                                                                                     | 77/485 [00:01<00:09, 43.97it/s]\u001B[A\n",
      "Validation DataLoader 0:  16%|██████████████████████▎                                                                                                                    | 78/485 [00:01<00:09, 44.04it/s]\u001B[A\n",
      "Validation DataLoader 0:  16%|██████████████████████▋                                                                                                                    | 79/485 [00:01<00:09, 44.12it/s]\u001B[A\n",
      "Validation DataLoader 0:  16%|██████████████████████▉                                                                                                                    | 80/485 [00:01<00:09, 44.19it/s]\u001B[A\n",
      "Validation DataLoader 0:  17%|███████████████████████▏                                                                                                                   | 81/485 [00:01<00:09, 44.26it/s]\u001B[A\n",
      "Validation DataLoader 0:  17%|███████████████████████▌                                                                                                                   | 82/485 [00:01<00:09, 44.29it/s]\u001B[A\n",
      "Validation DataLoader 0:  17%|███████████████████████▊                                                                                                                   | 83/485 [00:01<00:09, 44.36it/s]\u001B[A\n",
      "Validation DataLoader 0:  17%|████████████████████████                                                                                                                   | 84/485 [00:01<00:09, 44.41it/s]\u001B[A\n",
      "Validation DataLoader 0:  18%|████████████████████████▎                                                                                                                  | 85/485 [00:01<00:09, 44.44it/s]\u001B[A\n",
      "Validation DataLoader 0:  18%|████████████████████████▋                                                                                                                  | 86/485 [00:01<00:08, 44.46it/s]\u001B[A\n",
      "Validation DataLoader 0:  18%|████████████████████████▉                                                                                                                  | 87/485 [00:01<00:08, 44.47it/s]\u001B[A\n",
      "Validation DataLoader 0:  18%|█████████████████████████▏                                                                                                                 | 88/485 [00:01<00:08, 44.49it/s]\u001B[A\n",
      "Validation DataLoader 0:  18%|█████████████████████████▌                                                                                                                 | 89/485 [00:01<00:08, 44.54it/s]\u001B[A\n",
      "Validation DataLoader 0:  19%|█████████████████████████▊                                                                                                                 | 90/485 [00:02<00:08, 44.58it/s]\u001B[A\n",
      "Validation DataLoader 0:  19%|██████████████████████████                                                                                                                 | 91/485 [00:02<00:08, 44.65it/s]\u001B[A\n",
      "Validation DataLoader 0:  19%|██████████████████████████▎                                                                                                                | 92/485 [00:02<00:08, 44.72it/s]\u001B[A\n",
      "Validation DataLoader 0:  19%|██████████████████████████▋                                                                                                                | 93/485 [00:02<00:08, 44.80it/s]\u001B[A\n",
      "Validation DataLoader 0:  19%|██████████████████████████▉                                                                                                                | 94/485 [00:02<00:08, 44.87it/s]\u001B[A\n",
      "Validation DataLoader 0:  20%|███████████████████████████▏                                                                                                               | 95/485 [00:02<00:08, 44.94it/s]\u001B[A\n",
      "Validation DataLoader 0:  20%|███████████████████████████▌                                                                                                               | 96/485 [00:02<00:08, 45.00it/s]\u001B[A\n",
      "Validation DataLoader 0:  20%|███████████████████████████▊                                                                                                               | 97/485 [00:02<00:08, 45.04it/s]\u001B[A\n",
      "Validation DataLoader 0:  20%|████████████████████████████                                                                                                               | 98/485 [00:02<00:08, 45.09it/s]\u001B[A\n",
      "Validation DataLoader 0:  20%|████████████████████████████▎                                                                                                              | 99/485 [00:02<00:08, 45.14it/s]\u001B[A\n",
      "Validation DataLoader 0:  21%|████████████████████████████▍                                                                                                             | 100/485 [00:02<00:08, 45.20it/s]\u001B[A\n",
      "Validation DataLoader 0:  21%|████████████████████████████▋                                                                                                             | 101/485 [00:02<00:08, 45.26it/s]\u001B[A\n",
      "Validation DataLoader 0:  21%|█████████████████████████████                                                                                                             | 102/485 [00:02<00:08, 45.30it/s]\u001B[A\n",
      "Validation DataLoader 0:  21%|█████████████████████████████▎                                                                                                            | 103/485 [00:02<00:08, 45.32it/s]\u001B[A\n",
      "Validation DataLoader 0:  21%|█████████████████████████████▌                                                                                                            | 104/485 [00:02<00:08, 45.36it/s]\u001B[A\n",
      "Validation DataLoader 0:  22%|█████████████████████████████▉                                                                                                            | 105/485 [00:02<00:08, 45.40it/s]\u001B[A\n",
      "Validation DataLoader 0:  22%|██████████████████████████████▏                                                                                                           | 106/485 [00:02<00:08, 45.43it/s]\u001B[A\n",
      "Validation DataLoader 0:  22%|██████████████████████████████▍                                                                                                           | 107/485 [00:02<00:08, 45.44it/s]\u001B[A\n",
      "Validation DataLoader 0:  22%|██████████████████████████████▋                                                                                                           | 108/485 [00:02<00:08, 45.47it/s]\u001B[A\n",
      "Validation DataLoader 0:  22%|███████████████████████████████                                                                                                           | 109/485 [00:02<00:08, 45.50it/s]\u001B[A\n",
      "Validation DataLoader 0:  23%|███████████████████████████████▎                                                                                                          | 110/485 [00:02<00:08, 45.53it/s]\u001B[A\n",
      "Validation DataLoader 0:  23%|███████████████████████████████▌                                                                                                          | 111/485 [00:02<00:08, 45.55it/s]\u001B[A\n",
      "Validation DataLoader 0:  23%|███████████████████████████████▊                                                                                                          | 112/485 [00:02<00:08, 45.58it/s]\u001B[A\n",
      "Validation DataLoader 0:  23%|████████████████████████████████▏                                                                                                         | 113/485 [00:02<00:08, 45.61it/s]\u001B[A\n",
      "Validation DataLoader 0:  24%|████████████████████████████████▍                                                                                                         | 114/485 [00:02<00:08, 45.64it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  24%|████████████████████████████████▋                                                                                                         | 115/485 [00:02<00:08, 45.65it/s]\u001B[A\n",
      "Validation DataLoader 0:  24%|█████████████████████████████████                                                                                                         | 116/485 [00:02<00:08, 45.65it/s]\u001B[A\n",
      "Validation DataLoader 0:  24%|█████████████████████████████████▎                                                                                                        | 117/485 [00:02<00:08, 45.67it/s]\u001B[A\n",
      "Validation DataLoader 0:  24%|█████████████████████████████████▌                                                                                                        | 118/485 [00:02<00:08, 45.70it/s]\u001B[A\n",
      "Validation DataLoader 0:  25%|█████████████████████████████████▊                                                                                                        | 119/485 [00:02<00:08, 45.72it/s]\u001B[A\n",
      "Validation DataLoader 0:  25%|██████████████████████████████████▏                                                                                                       | 120/485 [00:02<00:07, 45.75it/s]\u001B[A\n",
      "Validation DataLoader 0:  25%|██████████████████████████████████▍                                                                                                       | 121/485 [00:02<00:07, 45.79it/s]\u001B[A\n",
      "Validation DataLoader 0:  25%|██████████████████████████████████▋                                                                                                       | 122/485 [00:02<00:07, 45.83it/s]\u001B[A\n",
      "Validation DataLoader 0:  25%|██████████████████████████████████▉                                                                                                       | 123/485 [00:02<00:07, 45.87it/s]\u001B[A\n",
      "Validation DataLoader 0:  26%|███████████████████████████████████▎                                                                                                      | 124/485 [00:02<00:07, 45.90it/s]\u001B[A\n",
      "Validation DataLoader 0:  26%|███████████████████████████████████▌                                                                                                      | 125/485 [00:02<00:07, 45.91it/s]\u001B[A\n",
      "Validation DataLoader 0:  26%|███████████████████████████████████▊                                                                                                      | 126/485 [00:02<00:07, 45.94it/s]\u001B[A\n",
      "Validation DataLoader 0:  26%|████████████████████████████████████▏                                                                                                     | 127/485 [00:02<00:07, 45.97it/s]\u001B[A\n",
      "Validation DataLoader 0:  26%|████████████████████████████████████▍                                                                                                     | 128/485 [00:02<00:07, 46.02it/s]\u001B[A\n",
      "Validation DataLoader 0:  27%|████████████████████████████████████▋                                                                                                     | 129/485 [00:02<00:07, 46.05it/s]\u001B[A\n",
      "Validation DataLoader 0:  27%|████████████████████████████████████▉                                                                                                     | 130/485 [00:02<00:07, 46.05it/s]\u001B[A\n",
      "Validation DataLoader 0:  27%|█████████████████████████████████████▎                                                                                                    | 131/485 [00:02<00:07, 46.08it/s]\u001B[A\n",
      "Validation DataLoader 0:  27%|█████████████████████████████████████▌                                                                                                    | 132/485 [00:02<00:07, 46.10it/s]\u001B[A\n",
      "Validation DataLoader 0:  27%|█████████████████████████████████████▊                                                                                                    | 133/485 [00:02<00:07, 46.11it/s]\u001B[A\n",
      "Validation DataLoader 0:  28%|██████████████████████████████████████▏                                                                                                   | 134/485 [00:02<00:07, 46.11it/s]\u001B[A\n",
      "Validation DataLoader 0:  28%|██████████████████████████████████████▍                                                                                                   | 135/485 [00:02<00:07, 46.12it/s]\u001B[A\n",
      "Validation DataLoader 0:  28%|██████████████████████████████████████▋                                                                                                   | 136/485 [00:02<00:07, 46.14it/s]\u001B[A\n",
      "Validation DataLoader 0:  28%|██████████████████████████████████████▉                                                                                                   | 137/485 [00:02<00:07, 46.13it/s]\u001B[A\n",
      "Validation DataLoader 0:  28%|███████████████████████████████████████▎                                                                                                  | 138/485 [00:02<00:07, 46.16it/s]\u001B[A\n",
      "Validation DataLoader 0:  29%|███████████████████████████████████████▌                                                                                                  | 139/485 [00:03<00:07, 46.17it/s]\u001B[A\n",
      "Validation DataLoader 0:  29%|███████████████████████████████████████▊                                                                                                  | 140/485 [00:03<00:07, 46.20it/s]\u001B[A\n",
      "Validation DataLoader 0:  29%|████████████████████████████████████████                                                                                                  | 141/485 [00:03<00:07, 46.24it/s]\u001B[A\n",
      "Validation DataLoader 0:  29%|████████████████████████████████████████▍                                                                                                 | 142/485 [00:03<00:07, 46.25it/s]\u001B[A\n",
      "Validation DataLoader 0:  29%|████████████████████████████████████████▋                                                                                                 | 143/485 [00:03<00:07, 46.26it/s]\u001B[A\n",
      "Validation DataLoader 0:  30%|████████████████████████████████████████▉                                                                                                 | 144/485 [00:03<00:07, 46.28it/s]\u001B[A\n",
      "Validation DataLoader 0:  30%|█████████████████████████████████████████▎                                                                                                | 145/485 [00:03<00:07, 46.30it/s]\u001B[A\n",
      "Validation DataLoader 0:  30%|█████████████████████████████████████████▌                                                                                                | 146/485 [00:03<00:07, 46.32it/s]\u001B[A\n",
      "Validation DataLoader 0:  30%|█████████████████████████████████████████▊                                                                                                | 147/485 [00:03<00:07, 46.32it/s]\u001B[A\n",
      "Validation DataLoader 0:  31%|██████████████████████████████████████████                                                                                                | 148/485 [00:03<00:07, 46.32it/s]\u001B[A\n",
      "Validation DataLoader 0:  31%|██████████████████████████████████████████▍                                                                                               | 149/485 [00:03<00:07, 46.35it/s]\u001B[A\n",
      "Validation DataLoader 0:  31%|██████████████████████████████████████████▋                                                                                               | 150/485 [00:03<00:07, 46.37it/s]\u001B[A\n",
      "Validation DataLoader 0:  31%|██████████████████████████████████████████▉                                                                                               | 151/485 [00:03<00:07, 46.37it/s]\u001B[A\n",
      "Validation DataLoader 0:  31%|███████████████████████████████████████████▏                                                                                              | 152/485 [00:03<00:07, 46.36it/s]\u001B[A\n",
      "Validation DataLoader 0:  32%|███████████████████████████████████████████▌                                                                                              | 153/485 [00:03<00:07, 46.37it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  32%|███████████████████████████████████████████▊                                                                                              | 154/485 [00:03<00:07, 46.40it/s]\u001B[A\n",
      "Validation DataLoader 0:  32%|████████████████████████████████████████████                                                                                              | 155/485 [00:03<00:07, 46.41it/s]\u001B[A\n",
      "Validation DataLoader 0:  32%|████████████████████████████████████████████▍                                                                                             | 156/485 [00:03<00:07, 46.43it/s]\u001B[A\n",
      "Validation DataLoader 0:  32%|████████████████████████████████████████████▋                                                                                             | 157/485 [00:03<00:07, 46.45it/s]\u001B[A\n",
      "Validation DataLoader 0:  33%|████████████████████████████████████████████▉                                                                                             | 158/485 [00:03<00:07, 46.47it/s]\u001B[A\n",
      "Validation DataLoader 0:  33%|█████████████████████████████████████████████▏                                                                                            | 159/485 [00:03<00:07, 46.47it/s]\u001B[A\n",
      "Validation DataLoader 0:  33%|█████████████████████████████████████████████▌                                                                                            | 160/485 [00:03<00:06, 46.49it/s]\u001B[A\n",
      "Validation DataLoader 0:  33%|█████████████████████████████████████████████▊                                                                                            | 161/485 [00:03<00:06, 46.49it/s]\u001B[A\n",
      "Validation DataLoader 0:  33%|██████████████████████████████████████████████                                                                                            | 162/485 [00:03<00:06, 46.49it/s]\u001B[A\n",
      "Validation DataLoader 0:  34%|██████████████████████████████████████████████▍                                                                                           | 163/485 [00:03<00:06, 46.51it/s]\u001B[A\n",
      "Validation DataLoader 0:  34%|██████████████████████████████████████████████▋                                                                                           | 164/485 [00:03<00:06, 46.51it/s]\u001B[A\n",
      "Validation DataLoader 0:  34%|██████████████████████████████████████████████▉                                                                                           | 165/485 [00:03<00:06, 46.51it/s]\u001B[A\n",
      "Validation DataLoader 0:  34%|███████████████████████████████████████████████▏                                                                                          | 166/485 [00:03<00:06, 46.52it/s]\u001B[A\n",
      "Validation DataLoader 0:  34%|███████████████████████████████████████████████▌                                                                                          | 167/485 [00:03<00:06, 46.51it/s]\u001B[A\n",
      "Validation DataLoader 0:  35%|███████████████████████████████████████████████▊                                                                                          | 168/485 [00:03<00:06, 46.53it/s]\u001B[A\n",
      "Validation DataLoader 0:  35%|████████████████████████████████████████████████                                                                                          | 169/485 [00:03<00:06, 46.55it/s]\u001B[A\n",
      "Validation DataLoader 0:  35%|████████████████████████████████████████████████▎                                                                                         | 170/485 [00:03<00:06, 46.57it/s]\u001B[A\n",
      "Validation DataLoader 0:  35%|████████████████████████████████████████████████▋                                                                                         | 171/485 [00:03<00:06, 46.57it/s]\u001B[A\n",
      "Validation DataLoader 0:  35%|████████████████████████████████████████████████▉                                                                                         | 172/485 [00:03<00:06, 46.59it/s]\u001B[A\n",
      "Validation DataLoader 0:  36%|█████████████████████████████████████████████████▏                                                                                        | 173/485 [00:03<00:06, 46.60it/s]\u001B[A\n",
      "Validation DataLoader 0:  36%|█████████████████████████████████████████████████▌                                                                                        | 174/485 [00:03<00:06, 46.62it/s]\u001B[A\n",
      "Validation DataLoader 0:  36%|█████████████████████████████████████████████████▊                                                                                        | 175/485 [00:03<00:06, 46.63it/s]\u001B[A\n",
      "Validation DataLoader 0:  36%|██████████████████████████████████████████████████                                                                                        | 176/485 [00:03<00:06, 46.62it/s]\u001B[A\n",
      "Validation DataLoader 0:  36%|██████████████████████████████████████████████████▎                                                                                       | 177/485 [00:03<00:06, 46.63it/s]\u001B[A\n",
      "Validation DataLoader 0:  37%|██████████████████████████████████████████████████▋                                                                                       | 178/485 [00:03<00:06, 46.66it/s]\u001B[A\n",
      "Validation DataLoader 0:  37%|██████████████████████████████████████████████████▉                                                                                       | 179/485 [00:03<00:06, 46.67it/s]\u001B[A\n",
      "Validation DataLoader 0:  37%|███████████████████████████████████████████████████▏                                                                                      | 180/485 [00:03<00:06, 46.67it/s]\u001B[A\n",
      "Validation DataLoader 0:  37%|███████████████████████████████████████████████████▌                                                                                      | 181/485 [00:03<00:06, 46.68it/s]\u001B[A\n",
      "Validation DataLoader 0:  38%|███████████████████████████████████████████████████▊                                                                                      | 182/485 [00:03<00:06, 46.69it/s]\u001B[A\n",
      "Validation DataLoader 0:  38%|████████████████████████████████████████████████████                                                                                      | 183/485 [00:03<00:06, 46.71it/s]\u001B[A\n",
      "Validation DataLoader 0:  38%|████████████████████████████████████████████████████▎                                                                                     | 184/485 [00:03<00:06, 46.71it/s]\u001B[A\n",
      "Validation DataLoader 0:  38%|████████████████████████████████████████████████████▋                                                                                     | 185/485 [00:03<00:06, 46.70it/s]\u001B[A\n",
      "Validation DataLoader 0:  38%|████████████████████████████████████████████████████▉                                                                                     | 186/485 [00:03<00:06, 46.71it/s]\u001B[A\n",
      "Validation DataLoader 0:  39%|█████████████████████████████████████████████████████▏                                                                                    | 187/485 [00:04<00:06, 46.70it/s]\u001B[A\n",
      "Validation DataLoader 0:  39%|█████████████████████████████████████████████████████▍                                                                                    | 188/485 [00:04<00:06, 46.70it/s]\u001B[A\n",
      "Validation DataLoader 0:  39%|█████████████████████████████████████████████████████▊                                                                                    | 189/485 [00:04<00:06, 46.71it/s]\u001B[A\n",
      "Validation DataLoader 0:  39%|██████████████████████████████████████████████████████                                                                                    | 190/485 [00:04<00:06, 46.70it/s]\u001B[A\n",
      "Validation DataLoader 0:  39%|██████████████████████████████████████████████████████▎                                                                                   | 191/485 [00:04<00:06, 46.69it/s]\u001B[A\n",
      "Validation DataLoader 0:  40%|██████████████████████████████████████████████████████▋                                                                                   | 192/485 [00:04<00:06, 46.68it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  40%|██████████████████████████████████████████████████████▉                                                                                   | 193/485 [00:04<00:06, 46.67it/s]\u001B[A\n",
      "Validation DataLoader 0:  40%|███████████████████████████████████████████████████████▏                                                                                  | 194/485 [00:04<00:06, 46.63it/s]\u001B[A\n",
      "Validation DataLoader 0:  40%|███████████████████████████████████████████████████████▍                                                                                  | 195/485 [00:04<00:06, 46.60it/s]\u001B[A\n",
      "Validation DataLoader 0:  40%|███████████████████████████████████████████████████████▊                                                                                  | 196/485 [00:04<00:06, 46.59it/s]\u001B[A\n",
      "Validation DataLoader 0:  41%|████████████████████████████████████████████████████████                                                                                  | 197/485 [00:04<00:06, 46.58it/s]\u001B[A\n",
      "Validation DataLoader 0:  41%|████████████████████████████████████████████████████████▎                                                                                 | 198/485 [00:04<00:06, 46.59it/s]\u001B[A\n",
      "Validation DataLoader 0:  41%|████████████████████████████████████████████████████████▌                                                                                 | 199/485 [00:04<00:06, 46.59it/s]\u001B[A\n",
      "Validation DataLoader 0:  41%|████████████████████████████████████████████████████████▉                                                                                 | 200/485 [00:04<00:06, 46.57it/s]\u001B[A\n",
      "Validation DataLoader 0:  41%|█████████████████████████████████████████████████████████▏                                                                                | 201/485 [00:04<00:06, 46.56it/s]\u001B[A\n",
      "Validation DataLoader 0:  42%|█████████████████████████████████████████████████████████▍                                                                                | 202/485 [00:04<00:06, 46.55it/s]\u001B[A\n",
      "Validation DataLoader 0:  42%|█████████████████████████████████████████████████████████▊                                                                                | 203/485 [00:04<00:06, 46.53it/s]\u001B[A\n",
      "Validation DataLoader 0:  42%|██████████████████████████████████████████████████████████                                                                                | 204/485 [00:04<00:06, 46.53it/s]\u001B[A\n",
      "Validation DataLoader 0:  42%|██████████████████████████████████████████████████████████▎                                                                               | 205/485 [00:04<00:06, 46.52it/s]\u001B[A\n",
      "Validation DataLoader 0:  42%|██████████████████████████████████████████████████████████▌                                                                               | 206/485 [00:04<00:05, 46.51it/s]\u001B[A\n",
      "Validation DataLoader 0:  43%|██████████████████████████████████████████████████████████▉                                                                               | 207/485 [00:04<00:05, 46.45it/s]\u001B[A\n",
      "Validation DataLoader 0:  43%|███████████████████████████████████████████████████████████▏                                                                              | 208/485 [00:04<00:05, 46.40it/s]\u001B[A\n",
      "Validation DataLoader 0:  43%|███████████████████████████████████████████████████████████▍                                                                              | 209/485 [00:04<00:05, 46.37it/s]\u001B[A\n",
      "Validation DataLoader 0:  43%|███████████████████████████████████████████████████████████▊                                                                              | 210/485 [00:04<00:05, 46.34it/s]\u001B[A\n",
      "Validation DataLoader 0:  44%|████████████████████████████████████████████████████████████                                                                              | 211/485 [00:04<00:05, 46.34it/s]\u001B[A\n",
      "Validation DataLoader 0:  44%|████████████████████████████████████████████████████████████▎                                                                             | 212/485 [00:04<00:05, 46.33it/s]\u001B[A\n",
      "Validation DataLoader 0:  44%|████████████████████████████████████████████████████████████▌                                                                             | 213/485 [00:04<00:05, 46.33it/s]\u001B[A\n",
      "Validation DataLoader 0:  44%|████████████████████████████████████████████████████████████▉                                                                             | 214/485 [00:04<00:05, 46.31it/s]\u001B[A\n",
      "Validation DataLoader 0:  44%|█████████████████████████████████████████████████████████████▏                                                                            | 215/485 [00:04<00:05, 46.30it/s]\u001B[A\n",
      "Validation DataLoader 0:  45%|█████████████████████████████████████████████████████████████▍                                                                            | 216/485 [00:04<00:05, 46.28it/s]\u001B[A\n",
      "Validation DataLoader 0:  45%|█████████████████████████████████████████████████████████████▋                                                                            | 217/485 [00:04<00:05, 46.26it/s]\u001B[A\n",
      "Validation DataLoader 0:  45%|██████████████████████████████████████████████████████████████                                                                            | 218/485 [00:04<00:05, 46.25it/s]\u001B[A\n",
      "Validation DataLoader 0:  45%|██████████████████████████████████████████████████████████████▎                                                                           | 219/485 [00:04<00:05, 46.24it/s]\u001B[A\n",
      "Validation DataLoader 0:  45%|██████████████████████████████████████████████████████████████▌                                                                           | 220/485 [00:04<00:05, 46.23it/s]\u001B[A\n",
      "Validation DataLoader 0:  46%|██████████████████████████████████████████████████████████████▉                                                                           | 221/485 [00:04<00:05, 46.21it/s]\u001B[A\n",
      "Validation DataLoader 0:  46%|███████████████████████████████████████████████████████████████▏                                                                          | 222/485 [00:04<00:05, 46.18it/s]\u001B[A\n",
      "Validation DataLoader 0:  46%|███████████████████████████████████████████████████████████████▍                                                                          | 223/485 [00:04<00:05, 46.18it/s]\u001B[A\n",
      "Validation DataLoader 0:  46%|███████████████████████████████████████████████████████████████▋                                                                          | 224/485 [00:04<00:05, 46.18it/s]\u001B[A\n",
      "Validation DataLoader 0:  46%|████████████████████████████████████████████████████████████████                                                                          | 225/485 [00:04<00:05, 46.18it/s]\u001B[A\n",
      "Validation DataLoader 0:  47%|████████████████████████████████████████████████████████████████▎                                                                         | 226/485 [00:04<00:05, 46.18it/s]\u001B[A\n",
      "Validation DataLoader 0:  47%|████████████████████████████████████████████████████████████████▌                                                                         | 227/485 [00:04<00:05, 46.19it/s]\u001B[A\n",
      "Validation DataLoader 0:  47%|████████████████████████████████████████████████████████████████▊                                                                         | 228/485 [00:04<00:05, 46.20it/s]\u001B[A\n",
      "Validation DataLoader 0:  47%|█████████████████████████████████████████████████████████████████▏                                                                        | 229/485 [00:04<00:05, 46.19it/s]\u001B[A\n",
      "Validation DataLoader 0:  47%|█████████████████████████████████████████████████████████████████▍                                                                        | 230/485 [00:04<00:05, 46.18it/s]\u001B[A\n",
      "Validation DataLoader 0:  48%|█████████████████████████████████████████████████████████████████▋                                                                        | 231/485 [00:05<00:05, 46.18it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  48%|██████████████████████████████████████████████████████████████████                                                                        | 232/485 [00:05<00:05, 46.19it/s]\u001B[A\n",
      "Validation DataLoader 0:  48%|██████████████████████████████████████████████████████████████████▎                                                                       | 233/485 [00:05<00:05, 46.19it/s]\u001B[A\n",
      "Validation DataLoader 0:  48%|██████████████████████████████████████████████████████████████████▌                                                                       | 234/485 [00:05<00:05, 46.19it/s]\u001B[A\n",
      "Validation DataLoader 0:  48%|██████████████████████████████████████████████████████████████████▊                                                                       | 235/485 [00:05<00:05, 46.20it/s]\u001B[A\n",
      "Validation DataLoader 0:  49%|███████████████████████████████████████████████████████████████████▏                                                                      | 236/485 [00:05<00:05, 46.21it/s]\u001B[A\n",
      "Validation DataLoader 0:  49%|███████████████████████████████████████████████████████████████████▍                                                                      | 237/485 [00:05<00:05, 46.22it/s]\u001B[A\n",
      "Validation DataLoader 0:  49%|███████████████████████████████████████████████████████████████████▋                                                                      | 238/485 [00:05<00:05, 46.24it/s]\u001B[A\n",
      "Validation DataLoader 0:  49%|████████████████████████████████████████████████████████████████████                                                                      | 239/485 [00:05<00:05, 46.23it/s]\u001B[A\n",
      "Validation DataLoader 0:  49%|████████████████████████████████████████████████████████████████████▎                                                                     | 240/485 [00:05<00:05, 46.25it/s]\u001B[A\n",
      "Validation DataLoader 0:  50%|████████████████████████████████████████████████████████████████████▌                                                                     | 241/485 [00:05<00:05, 46.26it/s]\u001B[A\n",
      "Validation DataLoader 0:  50%|████████████████████████████████████████████████████████████████████▊                                                                     | 242/485 [00:05<00:05, 46.27it/s]\u001B[A\n",
      "Validation DataLoader 0:  50%|█████████████████████████████████████████████████████████████████████▏                                                                    | 243/485 [00:05<00:05, 46.27it/s]\u001B[A\n",
      "Validation DataLoader 0:  50%|█████████████████████████████████████████████████████████████████████▍                                                                    | 244/485 [00:05<00:05, 46.27it/s]\u001B[A\n",
      "Validation DataLoader 0:  51%|█████████████████████████████████████████████████████████████████████▋                                                                    | 245/485 [00:05<00:05, 46.29it/s]\u001B[A\n",
      "Validation DataLoader 0:  51%|█████████████████████████████████████████████████████████████████████▉                                                                    | 246/485 [00:05<00:05, 46.30it/s]\u001B[A\n",
      "Validation DataLoader 0:  51%|██████████████████████████████████████████████████████████████████████▎                                                                   | 247/485 [00:05<00:05, 46.31it/s]\u001B[A\n",
      "Validation DataLoader 0:  51%|██████████████████████████████████████████████████████████████████████▌                                                                   | 248/485 [00:05<00:05, 46.33it/s]\u001B[A\n",
      "Validation DataLoader 0:  51%|██████████████████████████████████████████████████████████████████████▊                                                                   | 249/485 [00:05<00:05, 46.34it/s]\u001B[A\n",
      "Validation DataLoader 0:  52%|███████████████████████████████████████████████████████████████████████▏                                                                  | 250/485 [00:05<00:05, 46.35it/s]\u001B[A\n",
      "Validation DataLoader 0:  52%|███████████████████████████████████████████████████████████████████████▍                                                                  | 251/485 [00:05<00:05, 46.36it/s]\u001B[A\n",
      "Validation DataLoader 0:  52%|███████████████████████████████████████████████████████████████████████▋                                                                  | 252/485 [00:05<00:05, 46.38it/s]\u001B[A\n",
      "Validation DataLoader 0:  52%|███████████████████████████████████████████████████████████████████████▉                                                                  | 253/485 [00:05<00:05, 46.37it/s]\u001B[A\n",
      "Validation DataLoader 0:  52%|████████████████████████████████████████████████████████████████████████▎                                                                 | 254/485 [00:05<00:04, 46.38it/s]\u001B[A\n",
      "Validation DataLoader 0:  53%|████████████████████████████████████████████████████████████████████████▌                                                                 | 255/485 [00:05<00:04, 46.36it/s]\u001B[A\n",
      "Validation DataLoader 0:  53%|████████████████████████████████████████████████████████████████████████▊                                                                 | 256/485 [00:05<00:04, 46.33it/s]\u001B[A\n",
      "Validation DataLoader 0:  53%|█████████████████████████████████████████████████████████████████████████▏                                                                | 257/485 [00:05<00:04, 46.32it/s]\u001B[A\n",
      "Validation DataLoader 0:  53%|█████████████████████████████████████████████████████████████████████████▍                                                                | 258/485 [00:05<00:04, 46.29it/s]\u001B[A\n",
      "Validation DataLoader 0:  53%|█████████████████████████████████████████████████████████████████████████▋                                                                | 259/485 [00:05<00:04, 46.28it/s]\u001B[A\n",
      "Validation DataLoader 0:  54%|█████████████████████████████████████████████████████████████████████████▉                                                                | 260/485 [00:05<00:04, 46.28it/s]\u001B[A\n",
      "Validation DataLoader 0:  54%|██████████████████████████████████████████████████████████████████████████▎                                                               | 261/485 [00:05<00:04, 46.29it/s]\u001B[A\n",
      "Validation DataLoader 0:  54%|██████████████████████████████████████████████████████████████████████████▌                                                               | 262/485 [00:05<00:04, 46.27it/s]\u001B[A\n",
      "Validation DataLoader 0:  54%|██████████████████████████████████████████████████████████████████████████▊                                                               | 263/485 [00:05<00:04, 46.26it/s]\u001B[A\n",
      "Validation DataLoader 0:  54%|███████████████████████████████████████████████████████████████████████████                                                               | 264/485 [00:05<00:04, 46.24it/s]\u001B[A\n",
      "Validation DataLoader 0:  55%|███████████████████████████████████████████████████████████████████████████▍                                                              | 265/485 [00:05<00:04, 46.24it/s]\u001B[A\n",
      "Validation DataLoader 0:  55%|███████████████████████████████████████████████████████████████████████████▋                                                              | 266/485 [00:05<00:04, 46.22it/s]\u001B[A\n",
      "Validation DataLoader 0:  55%|███████████████████████████████████████████████████████████████████████████▉                                                              | 267/485 [00:05<00:04, 46.22it/s]\u001B[A\n",
      "Validation DataLoader 0:  55%|████████████████████████████████████████████████████████████████████████████▎                                                             | 268/485 [00:05<00:04, 46.22it/s]\u001B[A\n",
      "Validation DataLoader 0:  55%|████████████████████████████████████████████████████████████████████████████▌                                                             | 269/485 [00:05<00:04, 46.22it/s]\u001B[A\n",
      "Validation DataLoader 0:  56%|████████████████████████████████████████████████████████████████████████████▊                                                             | 270/485 [00:05<00:04, 46.23it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  56%|█████████████████████████████████████████████████████████████████████████████                                                             | 271/485 [00:05<00:04, 46.22it/s]\u001B[A\n",
      "Validation DataLoader 0:  56%|█████████████████████████████████████████████████████████████████████████████▍                                                            | 272/485 [00:05<00:04, 46.22it/s]\u001B[A\n",
      "Validation DataLoader 0:  56%|█████████████████████████████████████████████████████████████████████████████▋                                                            | 273/485 [00:05<00:04, 46.23it/s]\u001B[A\n",
      "Validation DataLoader 0:  56%|█████████████████████████████████████████████████████████████████████████████▉                                                            | 274/485 [00:05<00:04, 46.24it/s]\u001B[A\n",
      "Validation DataLoader 0:  57%|██████████████████████████████████████████████████████████████████████████████▏                                                           | 275/485 [00:05<00:04, 46.25it/s]\u001B[A\n",
      "Validation DataLoader 0:  57%|██████████████████████████████████████████████████████████████████████████████▌                                                           | 276/485 [00:05<00:04, 46.26it/s]\u001B[A\n",
      "Validation DataLoader 0:  57%|██████████████████████████████████████████████████████████████████████████████▊                                                           | 277/485 [00:05<00:04, 46.26it/s]\u001B[A\n",
      "Validation DataLoader 0:  57%|███████████████████████████████████████████████████████████████████████████████                                                           | 278/485 [00:06<00:04, 46.27it/s]\u001B[A\n",
      "Validation DataLoader 0:  58%|███████████████████████████████████████████████████████████████████████████████▍                                                          | 279/485 [00:06<00:04, 46.27it/s]\u001B[A\n",
      "Validation DataLoader 0:  58%|███████████████████████████████████████████████████████████████████████████████▋                                                          | 280/485 [00:06<00:04, 46.28it/s]\u001B[A\n",
      "Validation DataLoader 0:  58%|███████████████████████████████████████████████████████████████████████████████▉                                                          | 281/485 [00:06<00:04, 46.28it/s]\u001B[A\n",
      "Validation DataLoader 0:  58%|████████████████████████████████████████████████████████████████████████████████▏                                                         | 282/485 [00:06<00:04, 46.28it/s]\u001B[A\n",
      "Validation DataLoader 0:  58%|████████████████████████████████████████████████████████████████████████████████▌                                                         | 283/485 [00:06<00:04, 46.28it/s]\u001B[A\n",
      "Validation DataLoader 0:  59%|████████████████████████████████████████████████████████████████████████████████▊                                                         | 284/485 [00:06<00:04, 46.28it/s]\u001B[A\n",
      "Validation DataLoader 0:  59%|█████████████████████████████████████████████████████████████████████████████████                                                         | 285/485 [00:06<00:04, 46.28it/s]\u001B[A\n",
      "Validation DataLoader 0:  59%|█████████████████████████████████████████████████████████████████████████████████▍                                                        | 286/485 [00:06<00:04, 46.28it/s]\u001B[A\n",
      "Validation DataLoader 0:  59%|█████████████████████████████████████████████████████████████████████████████████▋                                                        | 287/485 [00:06<00:04, 46.29it/s]\u001B[A\n",
      "Validation DataLoader 0:  59%|█████████████████████████████████████████████████████████████████████████████████▉                                                        | 288/485 [00:06<00:04, 46.28it/s]\u001B[A\n",
      "Validation DataLoader 0:  60%|██████████████████████████████████████████████████████████████████████████████████▏                                                       | 289/485 [00:06<00:04, 46.29it/s]\u001B[A\n",
      "Validation DataLoader 0:  60%|██████████████████████████████████████████████████████████████████████████████████▌                                                       | 290/485 [00:06<00:04, 46.30it/s]\u001B[A\n",
      "Validation DataLoader 0:  60%|██████████████████████████████████████████████████████████████████████████████████▊                                                       | 291/485 [00:06<00:04, 46.27it/s]\u001B[A\n",
      "Validation DataLoader 0:  60%|███████████████████████████████████████████████████████████████████████████████████                                                       | 292/485 [00:06<00:04, 46.27it/s]\u001B[A\n",
      "Validation DataLoader 0:  60%|███████████████████████████████████████████████████████████████████████████████████▎                                                      | 293/485 [00:06<00:04, 46.28it/s]\u001B[A\n",
      "Validation DataLoader 0:  61%|███████████████████████████████████████████████████████████████████████████████████▋                                                      | 294/485 [00:06<00:04, 46.27it/s]\u001B[A\n",
      "Validation DataLoader 0:  61%|███████████████████████████████████████████████████████████████████████████████████▉                                                      | 295/485 [00:06<00:04, 46.27it/s]\u001B[A\n",
      "Validation DataLoader 0:  61%|████████████████████████████████████████████████████████████████████████████████████▏                                                     | 296/485 [00:06<00:04, 46.28it/s]\u001B[A\n",
      "Validation DataLoader 0:  61%|████████████████████████████████████████████████████████████████████████████████████▌                                                     | 297/485 [00:06<00:04, 46.28it/s]\u001B[A\n",
      "Validation DataLoader 0:  61%|████████████████████████████████████████████████████████████████████████████████████▊                                                     | 298/485 [00:06<00:04, 46.28it/s]\u001B[A\n",
      "Validation DataLoader 0:  62%|█████████████████████████████████████████████████████████████████████████████████████                                                     | 299/485 [00:06<00:04, 46.28it/s]\u001B[A\n",
      "Validation DataLoader 0:  62%|█████████████████████████████████████████████████████████████████████████████████████▎                                                    | 300/485 [00:06<00:03, 46.29it/s]\u001B[A\n",
      "Validation DataLoader 0:  62%|█████████████████████████████████████████████████████████████████████████████████████▋                                                    | 301/485 [00:06<00:03, 46.28it/s]\u001B[A\n",
      "Validation DataLoader 0:  62%|█████████████████████████████████████████████████████████████████████████████████████▉                                                    | 302/485 [00:06<00:03, 46.27it/s]\u001B[A\n",
      "Validation DataLoader 0:  62%|██████████████████████████████████████████████████████████████████████████████████████▏                                                   | 303/485 [00:06<00:03, 46.26it/s]\u001B[A\n",
      "Validation DataLoader 0:  63%|██████████████████████████████████████████████████████████████████████████████████████▍                                                   | 304/485 [00:06<00:03, 46.23it/s]\u001B[A\n",
      "Validation DataLoader 0:  63%|██████████████████████████████████████████████████████████████████████████████████████▊                                                   | 305/485 [00:06<00:03, 46.23it/s]\u001B[A\n",
      "Validation DataLoader 0:  63%|███████████████████████████████████████████████████████████████████████████████████████                                                   | 306/485 [00:06<00:03, 46.23it/s]\u001B[A\n",
      "Validation DataLoader 0:  63%|███████████████████████████████████████████████████████████████████████████████████████▎                                                  | 307/485 [00:06<00:03, 46.22it/s]\u001B[A\n",
      "Validation DataLoader 0:  64%|███████████████████████████████████████████████████████████████████████████████████████▋                                                  | 308/485 [00:06<00:03, 46.22it/s]\u001B[A\n",
      "Validation DataLoader 0:  64%|███████████████████████████████████████████████████████████████████████████████████████▉                                                  | 309/485 [00:06<00:03, 46.23it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  64%|████████████████████████████████████████████████████████████████████████████████████████▏                                                 | 310/485 [00:06<00:03, 46.23it/s]\u001B[A\n",
      "Validation DataLoader 0:  64%|████████████████████████████████████████████████████████████████████████████████████████▍                                                 | 311/485 [00:06<00:03, 46.24it/s]\u001B[A\n",
      "Validation DataLoader 0:  64%|████████████████████████████████████████████████████████████████████████████████████████▊                                                 | 312/485 [00:06<00:03, 46.24it/s]\u001B[A\n",
      "Validation DataLoader 0:  65%|█████████████████████████████████████████████████████████████████████████████████████████                                                 | 313/485 [00:06<00:03, 46.24it/s]\u001B[A\n",
      "Validation DataLoader 0:  65%|█████████████████████████████████████████████████████████████████████████████████████████▎                                                | 314/485 [00:06<00:03, 46.25it/s]\u001B[A\n",
      "Validation DataLoader 0:  65%|█████████████████████████████████████████████████████████████████████████████████████████▋                                                | 315/485 [00:06<00:03, 46.26it/s]\u001B[A\n",
      "Validation DataLoader 0:  65%|█████████████████████████████████████████████████████████████████████████████████████████▉                                                | 316/485 [00:06<00:03, 46.26it/s]\u001B[A\n",
      "Validation DataLoader 0:  65%|██████████████████████████████████████████████████████████████████████████████████████████▏                                               | 317/485 [00:06<00:03, 46.26it/s]\u001B[A\n",
      "Validation DataLoader 0:  66%|██████████████████████████████████████████████████████████████████████████████████████████▍                                               | 318/485 [00:06<00:03, 46.25it/s]\u001B[A\n",
      "Validation DataLoader 0:  66%|██████████████████████████████████████████████████████████████████████████████████████████▊                                               | 319/485 [00:06<00:03, 46.26it/s]\u001B[A\n",
      "Validation DataLoader 0:  66%|███████████████████████████████████████████████████████████████████████████████████████████                                               | 320/485 [00:06<00:03, 46.26it/s]\u001B[A\n",
      "Validation DataLoader 0:  66%|███████████████████████████████████████████████████████████████████████████████████████████▎                                              | 321/485 [00:06<00:03, 46.27it/s]\u001B[A\n",
      "Validation DataLoader 0:  66%|███████████████████████████████████████████████████████████████████████████████████████████▌                                              | 322/485 [00:06<00:03, 46.27it/s]\u001B[A\n",
      "Validation DataLoader 0:  67%|███████████████████████████████████████████████████████████████████████████████████████████▉                                              | 323/485 [00:06<00:03, 46.27it/s]\u001B[A\n",
      "Validation DataLoader 0:  67%|████████████████████████████████████████████████████████████████████████████████████████████▏                                             | 324/485 [00:07<00:03, 46.28it/s]\u001B[A\n",
      "Validation DataLoader 0:  67%|████████████████████████████████████████████████████████████████████████████████████████████▍                                             | 325/485 [00:07<00:03, 46.28it/s]\u001B[A\n",
      "Validation DataLoader 0:  67%|████████████████████████████████████████████████████████████████████████████████████████████▊                                             | 326/485 [00:07<00:03, 46.28it/s]\u001B[A\n",
      "Validation DataLoader 0:  67%|█████████████████████████████████████████████████████████████████████████████████████████████                                             | 327/485 [00:07<00:03, 46.29it/s]\u001B[A\n",
      "Validation DataLoader 0:  68%|█████████████████████████████████████████████████████████████████████████████████████████████▎                                            | 328/485 [00:07<00:03, 46.29it/s]\u001B[A\n",
      "Validation DataLoader 0:  68%|█████████████████████████████████████████████████████████████████████████████████████████████▌                                            | 329/485 [00:07<00:03, 46.29it/s]\u001B[A\n",
      "Validation DataLoader 0:  68%|█████████████████████████████████████████████████████████████████████████████████████████████▉                                            | 330/485 [00:07<00:03, 46.29it/s]\u001B[A\n",
      "Validation DataLoader 0:  68%|██████████████████████████████████████████████████████████████████████████████████████████████▏                                           | 331/485 [00:07<00:03, 46.30it/s]\u001B[A\n",
      "Validation DataLoader 0:  68%|██████████████████████████████████████████████████████████████████████████████████████████████▍                                           | 332/485 [00:07<00:03, 46.31it/s]\u001B[A\n",
      "Validation DataLoader 0:  69%|██████████████████████████████████████████████████████████████████████████████████████████████▊                                           | 333/485 [00:07<00:03, 46.30it/s]\u001B[A\n",
      "Validation DataLoader 0:  69%|███████████████████████████████████████████████████████████████████████████████████████████████                                           | 334/485 [00:07<00:03, 46.31it/s]\u001B[A\n",
      "Validation DataLoader 0:  69%|███████████████████████████████████████████████████████████████████████████████████████████████▎                                          | 335/485 [00:07<00:03, 46.32it/s]\u001B[A\n",
      "Validation DataLoader 0:  69%|███████████████████████████████████████████████████████████████████████████████████████████████▌                                          | 336/485 [00:07<00:03, 46.32it/s]\u001B[A\n",
      "Validation DataLoader 0:  69%|███████████████████████████████████████████████████████████████████████████████████████████████▉                                          | 337/485 [00:07<00:03, 46.32it/s]\u001B[A\n",
      "Validation DataLoader 0:  70%|████████████████████████████████████████████████████████████████████████████████████████████████▏                                         | 338/485 [00:07<00:03, 46.32it/s]\u001B[A\n",
      "Validation DataLoader 0:  70%|████████████████████████████████████████████████████████████████████████████████████████████████▍                                         | 339/485 [00:07<00:03, 46.33it/s]\u001B[A\n",
      "Validation DataLoader 0:  70%|████████████████████████████████████████████████████████████████████████████████████████████████▋                                         | 340/485 [00:07<00:03, 46.32it/s]\u001B[A\n",
      "Validation DataLoader 0:  70%|█████████████████████████████████████████████████████████████████████████████████████████████████                                         | 341/485 [00:07<00:03, 46.32it/s]\u001B[A\n",
      "Validation DataLoader 0:  71%|█████████████████████████████████████████████████████████████████████████████████████████████████▎                                        | 342/485 [00:07<00:03, 46.33it/s]\u001B[A\n",
      "Validation DataLoader 0:  71%|█████████████████████████████████████████████████████████████████████████████████████████████████▌                                        | 343/485 [00:07<00:03, 46.34it/s]\u001B[A\n",
      "Validation DataLoader 0:  71%|█████████████████████████████████████████████████████████████████████████████████████████████████▉                                        | 344/485 [00:07<00:03, 46.34it/s]\u001B[A\n",
      "Validation DataLoader 0:  71%|██████████████████████████████████████████████████████████████████████████████████████████████████▏                                       | 345/485 [00:07<00:03, 46.35it/s]\u001B[A\n",
      "Validation DataLoader 0:  71%|██████████████████████████████████████████████████████████████████████████████████████████████████▍                                       | 346/485 [00:07<00:02, 46.35it/s]\u001B[A\n",
      "Validation DataLoader 0:  72%|██████████████████████████████████████████████████████████████████████████████████████████████████▋                                       | 347/485 [00:07<00:02, 46.35it/s]\u001B[A\n",
      "Validation DataLoader 0:  72%|███████████████████████████████████████████████████████████████████████████████████████████████████                                       | 348/485 [00:07<00:02, 46.36it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  72%|███████████████████████████████████████████████████████████████████████████████████████████████████▎                                      | 349/485 [00:07<00:02, 46.36it/s]\u001B[A\n",
      "Validation DataLoader 0:  72%|███████████████████████████████████████████████████████████████████████████████████████████████████▌                                      | 350/485 [00:07<00:02, 46.35it/s]\u001B[A\n",
      "Validation DataLoader 0:  72%|███████████████████████████████████████████████████████████████████████████████████████████████████▊                                      | 351/485 [00:07<00:02, 46.33it/s]\u001B[A\n",
      "Validation DataLoader 0:  73%|████████████████████████████████████████████████████████████████████████████████████████████████████▏                                     | 352/485 [00:07<00:02, 46.33it/s]\u001B[A\n",
      "Validation DataLoader 0:  73%|████████████████████████████████████████████████████████████████████████████████████████████████████▍                                     | 353/485 [00:07<00:02, 46.33it/s]\u001B[A\n",
      "Validation DataLoader 0:  73%|████████████████████████████████████████████████████████████████████████████████████████████████████▋                                     | 354/485 [00:07<00:02, 46.33it/s]\u001B[A\n",
      "Validation DataLoader 0:  73%|█████████████████████████████████████████████████████████████████████████████████████████████████████                                     | 355/485 [00:07<00:02, 46.33it/s]\u001B[A\n",
      "Validation DataLoader 0:  73%|█████████████████████████████████████████████████████████████████████████████████████████████████████▎                                    | 356/485 [00:07<00:02, 46.32it/s]\u001B[A\n",
      "Validation DataLoader 0:  74%|█████████████████████████████████████████████████████████████████████████████████████████████████████▌                                    | 357/485 [00:07<00:02, 46.32it/s]\u001B[A\n",
      "Validation DataLoader 0:  74%|█████████████████████████████████████████████████████████████████████████████████████████████████████▊                                    | 358/485 [00:07<00:02, 46.32it/s]\u001B[A\n",
      "Validation DataLoader 0:  74%|██████████████████████████████████████████████████████████████████████████████████████████████████████▏                                   | 359/485 [00:07<00:02, 46.33it/s]\u001B[A\n",
      "Validation DataLoader 0:  74%|██████████████████████████████████████████████████████████████████████████████████████████████████████▍                                   | 360/485 [00:07<00:02, 46.33it/s]\u001B[A\n",
      "Validation DataLoader 0:  74%|██████████████████████████████████████████████████████████████████████████████████████████████████████▋                                   | 361/485 [00:07<00:02, 46.33it/s]\u001B[A\n",
      "Validation DataLoader 0:  75%|███████████████████████████████████████████████████████████████████████████████████████████████████████                                   | 362/485 [00:07<00:02, 46.34it/s]\u001B[A\n",
      "Validation DataLoader 0:  75%|███████████████████████████████████████████████████████████████████████████████████████████████████████▎                                  | 363/485 [00:07<00:02, 46.34it/s]\u001B[A\n",
      "Validation DataLoader 0:  75%|███████████████████████████████████████████████████████████████████████████████████████████████████████▌                                  | 364/485 [00:07<00:02, 46.35it/s]\u001B[A\n",
      "Validation DataLoader 0:  75%|███████████████████████████████████████████████████████████████████████████████████████████████████████▊                                  | 365/485 [00:07<00:02, 46.35it/s]\u001B[A\n",
      "Validation DataLoader 0:  75%|████████████████████████████████████████████████████████████████████████████████████████████████████████▏                                 | 366/485 [00:07<00:02, 46.35it/s]\u001B[A\n",
      "Validation DataLoader 0:  76%|████████████████████████████████████████████████████████████████████████████████████████████████████████▍                                 | 367/485 [00:07<00:02, 46.35it/s]\u001B[A\n",
      "Validation DataLoader 0:  76%|████████████████████████████████████████████████████████████████████████████████████████████████████████▋                                 | 368/485 [00:07<00:02, 46.34it/s]\u001B[A\n",
      "Validation DataLoader 0:  76%|████████████████████████████████████████████████████████████████████████████████████████████████████████▉                                 | 369/485 [00:07<00:02, 46.35it/s]\u001B[A\n",
      "Validation DataLoader 0:  76%|█████████████████████████████████████████████████████████████████████████████████████████████████████████▎                                | 370/485 [00:07<00:02, 46.36it/s]\u001B[A\n",
      "Validation DataLoader 0:  76%|█████████████████████████████████████████████████████████████████████████████████████████████████████████▌                                | 371/485 [00:08<00:02, 46.36it/s]\u001B[A\n",
      "Validation DataLoader 0:  77%|█████████████████████████████████████████████████████████████████████████████████████████████████████████▊                                | 372/485 [00:08<00:02, 46.36it/s]\u001B[A\n",
      "Validation DataLoader 0:  77%|██████████████████████████████████████████████████████████████████████████████████████████████████████████▏                               | 373/485 [00:08<00:02, 46.36it/s]\u001B[A\n",
      "Validation DataLoader 0:  77%|██████████████████████████████████████████████████████████████████████████████████████████████████████████▍                               | 374/485 [00:08<00:02, 46.37it/s]\u001B[A\n",
      "Validation DataLoader 0:  77%|██████████████████████████████████████████████████████████████████████████████████████████████████████████▋                               | 375/485 [00:08<00:02, 46.37it/s]\u001B[A\n",
      "Validation DataLoader 0:  78%|██████████████████████████████████████████████████████████████████████████████████████████████████████████▉                               | 376/485 [00:08<00:02, 46.37it/s]\u001B[A\n",
      "Validation DataLoader 0:  78%|███████████████████████████████████████████████████████████████████████████████████████████████████████████▎                              | 377/485 [00:08<00:02, 46.37it/s]\u001B[A\n",
      "Validation DataLoader 0:  78%|███████████████████████████████████████████████████████████████████████████████████████████████████████████▌                              | 378/485 [00:08<00:02, 46.37it/s]\u001B[A\n",
      "Validation DataLoader 0:  78%|███████████████████████████████████████████████████████████████████████████████████████████████████████████▊                              | 379/485 [00:08<00:02, 46.36it/s]\u001B[A\n",
      "Validation DataLoader 0:  78%|████████████████████████████████████████████████████████████████████████████████████████████████████████████                              | 380/485 [00:08<00:02, 46.36it/s]\u001B[A\n",
      "Validation DataLoader 0:  79%|████████████████████████████████████████████████████████████████████████████████████████████████████████████▍                             | 381/485 [00:08<00:02, 46.36it/s]\u001B[A\n",
      "Validation DataLoader 0:  79%|████████████████████████████████████████████████████████████████████████████████████████████████████████████▋                             | 382/485 [00:08<00:02, 46.35it/s]\u001B[A\n",
      "Validation DataLoader 0:  79%|████████████████████████████████████████████████████████████████████████████████████████████████████████████▉                             | 383/485 [00:08<00:02, 46.35it/s]\u001B[A\n",
      "Validation DataLoader 0:  79%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████▎                            | 384/485 [00:08<00:02, 46.35it/s]\u001B[A\n",
      "Validation DataLoader 0:  79%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████▌                            | 385/485 [00:08<00:02, 46.35it/s]\u001B[A\n",
      "Validation DataLoader 0:  80%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████▊                            | 386/485 [00:08<00:02, 46.35it/s]\u001B[A\n",
      "Validation DataLoader 0:  80%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████                            | 387/485 [00:08<00:02, 46.36it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  80%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████▍                           | 388/485 [00:08<00:02, 46.36it/s]\u001B[A\n",
      "Validation DataLoader 0:  80%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████▋                           | 389/485 [00:08<00:02, 46.36it/s]\u001B[A\n",
      "Validation DataLoader 0:  80%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████▉                           | 390/485 [00:08<00:02, 46.37it/s]\u001B[A\n",
      "Validation DataLoader 0:  81%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████▎                          | 391/485 [00:08<00:02, 46.37it/s]\u001B[A\n",
      "Validation DataLoader 0:  81%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████▌                          | 392/485 [00:08<00:02, 46.38it/s]\u001B[A\n",
      "Validation DataLoader 0:  81%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████▊                          | 393/485 [00:08<00:01, 46.38it/s]\u001B[A\n",
      "Validation DataLoader 0:  81%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████                          | 394/485 [00:08<00:01, 46.39it/s]\u001B[A\n",
      "Validation DataLoader 0:  81%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍                         | 395/485 [00:08<00:01, 46.40it/s]\u001B[A\n",
      "Validation DataLoader 0:  82%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋                         | 396/485 [00:08<00:01, 46.39it/s]\u001B[A\n",
      "Validation DataLoader 0:  82%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉                         | 397/485 [00:08<00:01, 46.39it/s]\u001B[A\n",
      "Validation DataLoader 0:  82%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏                        | 398/485 [00:08<00:01, 46.39it/s]\u001B[A\n",
      "Validation DataLoader 0:  82%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌                        | 399/485 [00:08<00:01, 46.39it/s]\u001B[A\n",
      "Validation DataLoader 0:  82%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊                        | 400/485 [00:08<00:01, 46.38it/s]\u001B[A\n",
      "Validation DataLoader 0:  83%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████                        | 401/485 [00:08<00:01, 46.38it/s]\u001B[A\n",
      "Validation DataLoader 0:  83%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍                       | 402/485 [00:08<00:01, 46.38it/s]\u001B[A\n",
      "Validation DataLoader 0:  83%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋                       | 403/485 [00:08<00:01, 46.38it/s]\u001B[A\n",
      "Validation DataLoader 0:  83%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉                       | 404/485 [00:08<00:01, 46.39it/s]\u001B[A\n",
      "Validation DataLoader 0:  84%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏                      | 405/485 [00:08<00:01, 46.39it/s]\u001B[A\n",
      "Validation DataLoader 0:  84%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌                      | 406/485 [00:08<00:01, 46.39it/s]\u001B[A\n",
      "Validation DataLoader 0:  84%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊                      | 407/485 [00:08<00:01, 46.39it/s]\u001B[A\n",
      "Validation DataLoader 0:  84%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████                      | 408/485 [00:08<00:01, 46.40it/s]\u001B[A\n",
      "Validation DataLoader 0:  84%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍                     | 409/485 [00:08<00:01, 46.40it/s]\u001B[A\n",
      "Validation DataLoader 0:  85%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋                     | 410/485 [00:08<00:01, 46.40it/s]\u001B[A\n",
      "Validation DataLoader 0:  85%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉                     | 411/485 [00:08<00:01, 46.40it/s]\u001B[A\n",
      "Validation DataLoader 0:  85%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏                    | 412/485 [00:08<00:01, 46.40it/s]\u001B[A\n",
      "Validation DataLoader 0:  85%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌                    | 413/485 [00:08<00:01, 46.40it/s]\u001B[A\n",
      "Validation DataLoader 0:  85%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊                    | 414/485 [00:08<00:01, 46.40it/s]\u001B[A\n",
      "Validation DataLoader 0:  86%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████                    | 415/485 [00:08<00:01, 46.41it/s]\u001B[A\n",
      "Validation DataLoader 0:  86%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎                   | 416/485 [00:08<00:01, 46.41it/s]\u001B[A\n",
      "Validation DataLoader 0:  86%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋                   | 417/485 [00:08<00:01, 46.42it/s]\u001B[A\n",
      "Validation DataLoader 0:  86%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉                   | 418/485 [00:09<00:01, 46.42it/s]\u001B[A\n",
      "Validation DataLoader 0:  86%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏                  | 419/485 [00:09<00:01, 46.43it/s]\u001B[A\n",
      "Validation DataLoader 0:  87%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌                  | 420/485 [00:09<00:01, 46.43it/s]\u001B[A\n",
      "Validation DataLoader 0:  87%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊                  | 421/485 [00:09<00:01, 46.44it/s]\u001B[A\n",
      "Validation DataLoader 0:  87%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████                  | 422/485 [00:09<00:01, 46.45it/s]\u001B[A\n",
      "Validation DataLoader 0:  87%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎                 | 423/485 [00:09<00:01, 46.45it/s]\u001B[A\n",
      "Validation DataLoader 0:  87%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋                 | 424/485 [00:09<00:01, 46.46it/s]\u001B[A\n",
      "Validation DataLoader 0:  88%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉                 | 425/485 [00:09<00:01, 46.46it/s]\u001B[A\n",
      "Validation DataLoader 0:  88%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏                | 426/485 [00:09<00:01, 46.47it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  88%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍                | 427/485 [00:09<00:01, 46.47it/s]\u001B[A\n",
      "Validation DataLoader 0:  88%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊                | 428/485 [00:09<00:01, 46.48it/s]\u001B[A\n",
      "Validation DataLoader 0:  88%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████                | 429/485 [00:09<00:01, 46.49it/s]\u001B[A\n",
      "Validation DataLoader 0:  89%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎               | 430/485 [00:09<00:01, 46.50it/s]\u001B[A\n",
      "Validation DataLoader 0:  89%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋               | 431/485 [00:09<00:01, 46.50it/s]\u001B[A\n",
      "Validation DataLoader 0:  89%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉               | 432/485 [00:09<00:01, 46.51it/s]\u001B[A\n",
      "Validation DataLoader 0:  89%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏              | 433/485 [00:09<00:01, 46.52it/s]\u001B[A\n",
      "Validation DataLoader 0:  89%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍              | 434/485 [00:09<00:01, 46.53it/s]\u001B[A\n",
      "Validation DataLoader 0:  90%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊              | 435/485 [00:09<00:01, 46.54it/s]\u001B[A\n",
      "Validation DataLoader 0:  90%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████              | 436/485 [00:09<00:01, 46.54it/s]\u001B[A\n",
      "Validation DataLoader 0:  90%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎             | 437/485 [00:09<00:01, 46.54it/s]\u001B[A\n",
      "Validation DataLoader 0:  90%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋             | 438/485 [00:09<00:01, 46.55it/s]\u001B[A\n",
      "Validation DataLoader 0:  91%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉             | 439/485 [00:09<00:00, 46.56it/s]\u001B[A\n",
      "Validation DataLoader 0:  91%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏            | 440/485 [00:09<00:00, 46.56it/s]\u001B[A\n",
      "Validation DataLoader 0:  91%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍            | 441/485 [00:09<00:00, 46.56it/s]\u001B[A\n",
      "Validation DataLoader 0:  91%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊            | 442/485 [00:09<00:00, 46.57it/s]\u001B[A\n",
      "Validation DataLoader 0:  91%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████            | 443/485 [00:09<00:00, 46.58it/s]\u001B[A\n",
      "Validation DataLoader 0:  92%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎           | 444/485 [00:09<00:00, 46.58it/s]\u001B[A\n",
      "Validation DataLoader 0:  92%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌           | 445/485 [00:09<00:00, 46.58it/s]\u001B[A\n",
      "Validation DataLoader 0:  92%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉           | 446/485 [00:09<00:00, 46.59it/s]\u001B[A\n",
      "Validation DataLoader 0:  92%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏          | 447/485 [00:09<00:00, 46.59it/s]\u001B[A\n",
      "Validation DataLoader 0:  92%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍          | 448/485 [00:09<00:00, 46.60it/s]\u001B[A\n",
      "Validation DataLoader 0:  93%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊          | 449/485 [00:09<00:00, 46.60it/s]\u001B[A\n",
      "Validation DataLoader 0:  93%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████          | 450/485 [00:09<00:00, 46.61it/s]\u001B[A\n",
      "Validation DataLoader 0:  93%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎         | 451/485 [00:09<00:00, 46.61it/s]\u001B[A\n",
      "Validation DataLoader 0:  93%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌         | 452/485 [00:09<00:00, 46.62it/s]\u001B[A\n",
      "Validation DataLoader 0:  93%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉         | 453/485 [00:09<00:00, 46.62it/s]\u001B[A\n",
      "Validation DataLoader 0:  94%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏        | 454/485 [00:09<00:00, 46.62it/s]\u001B[A\n",
      "Validation DataLoader 0:  94%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍        | 455/485 [00:09<00:00, 46.62it/s]\u001B[A\n",
      "Validation DataLoader 0:  94%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋        | 456/485 [00:09<00:00, 46.62it/s]\u001B[A\n",
      "Validation DataLoader 0:  94%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████        | 457/485 [00:09<00:00, 46.63it/s]\u001B[A\n",
      "Validation DataLoader 0:  94%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎       | 458/485 [00:09<00:00, 46.63it/s]\u001B[A\n",
      "Validation DataLoader 0:  95%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌       | 459/485 [00:09<00:00, 46.64it/s]\u001B[A\n",
      "Validation DataLoader 0:  95%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉       | 460/485 [00:09<00:00, 46.64it/s]\u001B[A\n",
      "Validation DataLoader 0:  95%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏      | 461/485 [00:09<00:00, 46.65it/s]\u001B[A\n",
      "Validation DataLoader 0:  95%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍      | 462/485 [00:09<00:00, 46.66it/s]\u001B[A\n",
      "Validation DataLoader 0:  95%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋      | 463/485 [00:09<00:00, 46.67it/s]\u001B[A\n",
      "Validation DataLoader 0:  96%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████      | 464/485 [00:09<00:00, 46.68it/s]\u001B[A\n",
      "Validation DataLoader 0:  96%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎     | 465/485 [00:09<00:00, 46.69it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  96%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌     | 466/485 [00:09<00:00, 46.70it/s]\u001B[A\n",
      "Validation DataLoader 0:  96%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉     | 467/485 [00:09<00:00, 46.71it/s]\u001B[A\n",
      "Validation DataLoader 0:  96%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏    | 468/485 [00:10<00:00, 46.71it/s]\u001B[A\n",
      "Validation DataLoader 0:  97%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍    | 469/485 [00:10<00:00, 46.72it/s]\u001B[A\n",
      "Validation DataLoader 0:  97%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋    | 470/485 [00:10<00:00, 46.72it/s]\u001B[A\n",
      "Validation DataLoader 0:  97%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████    | 471/485 [00:10<00:00, 46.73it/s]\u001B[A\n",
      "Validation DataLoader 0:  97%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎   | 472/485 [00:10<00:00, 46.74it/s]\u001B[A\n",
      "Validation DataLoader 0:  98%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌   | 473/485 [00:10<00:00, 46.74it/s]\u001B[A\n",
      "Validation DataLoader 0:  98%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊   | 474/485 [00:10<00:00, 46.74it/s]\u001B[A\n",
      "Validation DataLoader 0:  98%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏  | 475/485 [00:10<00:00, 46.74it/s]\u001B[A\n",
      "Validation DataLoader 0:  98%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍  | 476/485 [00:10<00:00, 46.74it/s]\u001B[A\n",
      "Validation DataLoader 0:  98%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋  | 477/485 [00:10<00:00, 46.74it/s]\u001B[A\n",
      "Validation DataLoader 0:  99%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████  | 478/485 [00:10<00:00, 46.75it/s]\u001B[A\n",
      "Validation DataLoader 0:  99%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎ | 479/485 [00:10<00:00, 46.75it/s]\u001B[A\n",
      "Validation DataLoader 0:  99%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌ | 480/485 [00:10<00:00, 46.76it/s]\u001B[A\n",
      "Validation DataLoader 0:  99%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊ | 481/485 [00:10<00:00, 46.77it/s]\u001B[A\n",
      "Validation DataLoader 0:  99%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏| 482/485 [00:10<00:00, 46.77it/s]\u001B[A\n",
      "Validation DataLoader 0: 100%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍| 483/485 [00:10<00:00, 46.78it/s]\u001B[A\n",
      "Validation DataLoader 0: 100%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋| 484/485 [00:10<00:00, 46.78it/s]\u001B[A\n",
      "Epoch 0: 100%|███████████████████████████████████████████████████████████████████████████████████████████████████████████| 1453/1453 [03:06<00:00,  7.79it/s, v_num=103, train_loss=1.040, val_loss=1.400]\u001B[A\n",
      "Epoch 1: 100%|███████████████████████████████████████████████████████████████████████████████████████████████████████████| 1453/1453 [02:47<00:00,  8.66it/s, v_num=103, train_loss=2.040, val_loss=1.400]\u001B[A\n",
      "Validation: 0it [00:00, ?it/s]\u001B[A\n",
      "Validation:   0%|                                                                                                                                                                 | 0/485 [00:00<?, ?it/s]\u001B[A\n",
      "Validation DataLoader 0:   0%|                                                                                                                                                    | 0/485 [00:00<?, ?it/s]\u001B[A\n",
      "Validation DataLoader 0:   0%|▎                                                                                                                                           | 1/485 [00:00<00:11, 41.57it/s]\u001B[A\n",
      "Validation DataLoader 0:   0%|▌                                                                                                                                           | 2/485 [00:00<00:11, 42.94it/s]\u001B[A\n",
      "Validation DataLoader 0:   1%|▊                                                                                                                                           | 3/485 [00:00<00:10, 44.20it/s]\u001B[A\n",
      "Validation DataLoader 0:   1%|█▏                                                                                                                                          | 4/485 [00:00<00:10, 45.68it/s]\u001B[A\n",
      "Validation DataLoader 0:   1%|█▍                                                                                                                                          | 5/485 [00:00<00:10, 46.34it/s]\u001B[A\n",
      "Validation DataLoader 0:   1%|█▋                                                                                                                                          | 6/485 [00:00<00:10, 46.42it/s]\u001B[A\n",
      "Validation DataLoader 0:   1%|██                                                                                                                                          | 7/485 [00:00<00:10, 46.65it/s]\u001B[A\n",
      "Validation DataLoader 0:   2%|██▎                                                                                                                                         | 8/485 [00:00<00:10, 46.65it/s]\u001B[A\n",
      "Validation DataLoader 0:   2%|██▌                                                                                                                                         | 9/485 [00:00<00:10, 46.75it/s]\u001B[A\n",
      "Validation DataLoader 0:   2%|██▊                                                                                                                                        | 10/485 [00:00<00:10, 46.77it/s]\u001B[A\n",
      "Validation DataLoader 0:   2%|███▏                                                                                                                                       | 11/485 [00:00<00:10, 46.84it/s]\u001B[A\n",
      "Validation DataLoader 0:   2%|███▍                                                                                                                                       | 12/485 [00:00<00:10, 47.12it/s]\u001B[A\n",
      "Validation DataLoader 0:   3%|███▋                                                                                                                                       | 13/485 [00:00<00:09, 47.27it/s]\u001B[A\n",
      "Validation DataLoader 0:   3%|████                                                                                                                                       | 14/485 [00:00<00:09, 47.13it/s]\u001B[A\n",
      "Validation DataLoader 0:   3%|████▎                                                                                                                                      | 15/485 [00:00<00:09, 47.13it/s]\u001B[A\n",
      "Validation DataLoader 0:   3%|████▌                                                                                                                                      | 16/485 [00:00<00:09, 47.34it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:   4%|████▊                                                                                                                                      | 17/485 [00:00<00:09, 47.45it/s]\u001B[A\n",
      "Validation DataLoader 0:   4%|█████▏                                                                                                                                     | 18/485 [00:00<00:09, 47.50it/s]\u001B[A\n",
      "Validation DataLoader 0:   4%|█████▍                                                                                                                                     | 19/485 [00:00<00:09, 47.42it/s]\u001B[A\n",
      "Validation DataLoader 0:   4%|█████▋                                                                                                                                     | 20/485 [00:00<00:09, 47.43it/s]\u001B[A\n",
      "Validation DataLoader 0:   4%|██████                                                                                                                                     | 21/485 [00:00<00:09, 47.52it/s]\u001B[A\n",
      "Validation DataLoader 0:   5%|██████▎                                                                                                                                    | 22/485 [00:00<00:09, 47.59it/s]\u001B[A\n",
      "Validation DataLoader 0:   5%|██████▌                                                                                                                                    | 23/485 [00:00<00:10, 45.31it/s]\u001B[A\n",
      "Validation DataLoader 0:   5%|██████▉                                                                                                                                    | 24/485 [00:00<00:11, 40.92it/s]\u001B[A\n",
      "Validation DataLoader 0:   5%|███████▏                                                                                                                                   | 25/485 [00:00<00:12, 37.55it/s]\u001B[A\n",
      "Validation DataLoader 0:   5%|███████▍                                                                                                                                   | 26/485 [00:00<00:12, 36.86it/s]\u001B[A\n",
      "Validation DataLoader 0:   6%|███████▋                                                                                                                                   | 27/485 [00:00<00:12, 36.74it/s]\u001B[A\n",
      "Validation DataLoader 0:   6%|████████                                                                                                                                   | 28/485 [00:00<00:12, 36.60it/s]\u001B[A\n",
      "Validation DataLoader 0:   6%|████████▎                                                                                                                                  | 29/485 [00:00<00:12, 36.50it/s]\u001B[A\n",
      "Validation DataLoader 0:   6%|████████▌                                                                                                                                  | 30/485 [00:00<00:12, 36.66it/s]\u001B[A\n",
      "Validation DataLoader 0:   6%|████████▉                                                                                                                                  | 31/485 [00:00<00:12, 36.89it/s]\u001B[A\n",
      "Validation DataLoader 0:   7%|█████████▏                                                                                                                                 | 32/485 [00:00<00:12, 37.08it/s]\u001B[A\n",
      "Validation DataLoader 0:   7%|█████████▍                                                                                                                                 | 33/485 [00:00<00:12, 37.30it/s]\u001B[A\n",
      "Validation DataLoader 0:   7%|█████████▋                                                                                                                                 | 34/485 [00:00<00:12, 37.49it/s]\u001B[A\n",
      "Validation DataLoader 0:   7%|██████████                                                                                                                                 | 35/485 [00:00<00:11, 37.55it/s]\u001B[A\n",
      "Validation DataLoader 0:   7%|██████████▎                                                                                                                                | 36/485 [00:00<00:11, 37.67it/s]\u001B[A\n",
      "Validation DataLoader 0:   8%|██████████▌                                                                                                                                | 37/485 [00:00<00:11, 37.88it/s]\u001B[A\n",
      "Validation DataLoader 0:   8%|██████████▉                                                                                                                                | 38/485 [00:00<00:11, 38.10it/s]\u001B[A\n",
      "Validation DataLoader 0:   8%|███████████▏                                                                                                                               | 39/485 [00:01<00:11, 38.31it/s]\u001B[A\n",
      "Validation DataLoader 0:   8%|███████████▍                                                                                                                               | 40/485 [00:01<00:11, 38.50it/s]\u001B[A\n",
      "Validation DataLoader 0:   8%|███████████▊                                                                                                                               | 41/485 [00:01<00:11, 38.66it/s]\u001B[A\n",
      "Validation DataLoader 0:   9%|████████████                                                                                                                               | 42/485 [00:01<00:11, 38.83it/s]\u001B[A\n",
      "Validation DataLoader 0:   9%|████████████▎                                                                                                                              | 43/485 [00:01<00:11, 38.96it/s]\u001B[A\n",
      "Validation DataLoader 0:   9%|████████████▌                                                                                                                              | 44/485 [00:01<00:11, 39.09it/s]\u001B[A\n",
      "Validation DataLoader 0:   9%|████████████▉                                                                                                                              | 45/485 [00:01<00:11, 39.23it/s]\u001B[A\n",
      "Validation DataLoader 0:   9%|█████████████▏                                                                                                                             | 46/485 [00:01<00:11, 39.40it/s]\u001B[A\n",
      "Validation DataLoader 0:  10%|█████████████▍                                                                                                                             | 47/485 [00:01<00:11, 39.57it/s]\u001B[A\n",
      "Validation DataLoader 0:  10%|█████████████▊                                                                                                                             | 48/485 [00:01<00:11, 39.66it/s]\u001B[A\n",
      "Validation DataLoader 0:  10%|██████████████                                                                                                                             | 49/485 [00:01<00:10, 39.77it/s]\u001B[A\n",
      "Validation DataLoader 0:  10%|██████████████▎                                                                                                                            | 50/485 [00:01<00:10, 39.87it/s]\u001B[A\n",
      "Validation DataLoader 0:  11%|██████████████▌                                                                                                                            | 51/485 [00:01<00:10, 39.98it/s]\u001B[A\n",
      "Validation DataLoader 0:  11%|██████████████▉                                                                                                                            | 52/485 [00:01<00:10, 40.06it/s]\u001B[A\n",
      "Validation DataLoader 0:  11%|███████████████▏                                                                                                                           | 53/485 [00:01<00:10, 40.17it/s]\u001B[A\n",
      "Validation DataLoader 0:  11%|███████████████▍                                                                                                                           | 54/485 [00:01<00:10, 40.31it/s]\u001B[A\n",
      "Validation DataLoader 0:  11%|███████████████▊                                                                                                                           | 55/485 [00:01<00:10, 40.43it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  12%|████████████████                                                                                                                           | 56/485 [00:01<00:10, 40.52it/s]\u001B[A\n",
      "Validation DataLoader 0:  12%|████████████████▎                                                                                                                          | 57/485 [00:01<00:10, 40.59it/s]\u001B[A\n",
      "Validation DataLoader 0:  12%|████████████████▌                                                                                                                          | 58/485 [00:01<00:10, 40.62it/s]\u001B[A\n",
      "Validation DataLoader 0:  12%|████████████████▉                                                                                                                          | 59/485 [00:01<00:10, 40.69it/s]\u001B[A\n",
      "Validation DataLoader 0:  12%|█████████████████▏                                                                                                                         | 60/485 [00:01<00:10, 40.79it/s]\u001B[A\n",
      "Validation DataLoader 0:  13%|█████████████████▍                                                                                                                         | 61/485 [00:01<00:10, 40.64it/s]\u001B[A\n",
      "Validation DataLoader 0:  13%|█████████████████▊                                                                                                                         | 62/485 [00:01<00:10, 40.49it/s]\u001B[A\n",
      "Validation DataLoader 0:  13%|██████████████████                                                                                                                         | 63/485 [00:01<00:10, 40.41it/s]\u001B[A\n",
      "Validation DataLoader 0:  13%|██████████████████▎                                                                                                                        | 64/485 [00:01<00:10, 40.31it/s]\u001B[A\n",
      "Validation DataLoader 0:  13%|██████████████████▋                                                                                                                        | 65/485 [00:01<00:10, 40.27it/s]\u001B[A\n",
      "Validation DataLoader 0:  14%|██████████████████▉                                                                                                                        | 66/485 [00:01<00:10, 40.29it/s]\u001B[A\n",
      "Validation DataLoader 0:  14%|███████████████████▏                                                                                                                       | 67/485 [00:01<00:10, 40.42it/s]\u001B[A\n",
      "Validation DataLoader 0:  14%|███████████████████▍                                                                                                                       | 68/485 [00:01<00:10, 40.48it/s]\u001B[A\n",
      "Validation DataLoader 0:  14%|███████████████████▊                                                                                                                       | 69/485 [00:01<00:10, 40.53it/s]\u001B[A\n",
      "Validation DataLoader 0:  14%|████████████████████                                                                                                                       | 70/485 [00:01<00:10, 40.57it/s]\u001B[A\n",
      "Validation DataLoader 0:  15%|████████████████████▎                                                                                                                      | 71/485 [00:01<00:10, 40.53it/s]\u001B[A\n",
      "Validation DataLoader 0:  15%|████████████████████▋                                                                                                                      | 72/485 [00:01<00:10, 40.51it/s]\u001B[A\n",
      "Validation DataLoader 0:  15%|████████████████████▉                                                                                                                      | 73/485 [00:01<00:10, 40.59it/s]\u001B[A\n",
      "Validation DataLoader 0:  15%|█████████████████████▏                                                                                                                     | 74/485 [00:01<00:10, 40.65it/s]\u001B[A\n",
      "Validation DataLoader 0:  15%|█████████████████████▍                                                                                                                     | 75/485 [00:01<00:10, 40.71it/s]\u001B[A\n",
      "Validation DataLoader 0:  16%|█████████████████████▊                                                                                                                     | 76/485 [00:01<00:10, 40.78it/s]\u001B[A\n",
      "Validation DataLoader 0:  16%|██████████████████████                                                                                                                     | 77/485 [00:01<00:09, 40.82it/s]\u001B[A\n",
      "Validation DataLoader 0:  16%|██████████████████████▎                                                                                                                    | 78/485 [00:01<00:09, 40.92it/s]\u001B[A\n",
      "Validation DataLoader 0:  16%|██████████████████████▋                                                                                                                    | 79/485 [00:01<00:09, 40.97it/s]\u001B[A\n",
      "Validation DataLoader 0:  16%|██████████████████████▉                                                                                                                    | 80/485 [00:01<00:09, 41.04it/s]\u001B[A\n",
      "Validation DataLoader 0:  17%|███████████████████████▏                                                                                                                   | 81/485 [00:01<00:09, 41.06it/s]\u001B[A\n",
      "Validation DataLoader 0:  17%|███████████████████████▌                                                                                                                   | 82/485 [00:01<00:09, 41.10it/s]\u001B[A\n",
      "Validation DataLoader 0:  17%|███████████████████████▊                                                                                                                   | 83/485 [00:02<00:09, 41.17it/s]\u001B[A\n",
      "Validation DataLoader 0:  17%|████████████████████████                                                                                                                   | 84/485 [00:02<00:09, 41.22it/s]\u001B[A\n",
      "Validation DataLoader 0:  18%|████████████████████████▎                                                                                                                  | 85/485 [00:02<00:09, 41.29it/s]\u001B[A\n",
      "Validation DataLoader 0:  18%|████████████████████████▋                                                                                                                  | 86/485 [00:02<00:09, 41.36it/s]\u001B[A\n",
      "Validation DataLoader 0:  18%|████████████████████████▉                                                                                                                  | 87/485 [00:02<00:09, 41.44it/s]\u001B[A\n",
      "Validation DataLoader 0:  18%|█████████████████████████▏                                                                                                                 | 88/485 [00:02<00:09, 41.52it/s]\u001B[A\n",
      "Validation DataLoader 0:  18%|█████████████████████████▌                                                                                                                 | 89/485 [00:02<00:09, 41.55it/s]\u001B[A\n",
      "Validation DataLoader 0:  19%|█████████████████████████▊                                                                                                                 | 90/485 [00:02<00:09, 41.62it/s]\u001B[A\n",
      "Validation DataLoader 0:  19%|██████████████████████████                                                                                                                 | 91/485 [00:02<00:09, 41.69it/s]\u001B[A\n",
      "Validation DataLoader 0:  19%|██████████████████████████▎                                                                                                                | 92/485 [00:02<00:09, 41.75it/s]\u001B[A\n",
      "Validation DataLoader 0:  19%|██████████████████████████▋                                                                                                                | 93/485 [00:02<00:09, 41.81it/s]\u001B[A\n",
      "Validation DataLoader 0:  19%|██████████████████████████▉                                                                                                                | 94/485 [00:02<00:09, 41.83it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  20%|███████████████████████████▏                                                                                                               | 95/485 [00:02<00:09, 41.91it/s]\u001B[A\n",
      "Validation DataLoader 0:  20%|███████████████████████████▌                                                                                                               | 96/485 [00:02<00:09, 41.97it/s]\u001B[A\n",
      "Validation DataLoader 0:  20%|███████████████████████████▊                                                                                                               | 97/485 [00:02<00:09, 42.03it/s]\u001B[A\n",
      "Validation DataLoader 0:  20%|████████████████████████████                                                                                                               | 98/485 [00:02<00:09, 42.09it/s]\u001B[A\n",
      "Validation DataLoader 0:  20%|████████████████████████████▎                                                                                                              | 99/485 [00:02<00:09, 42.15it/s]\u001B[A\n",
      "Validation DataLoader 0:  21%|████████████████████████████▍                                                                                                             | 100/485 [00:02<00:09, 42.21it/s]\u001B[A\n",
      "Validation DataLoader 0:  21%|████████████████████████████▋                                                                                                             | 101/485 [00:02<00:09, 42.28it/s]\u001B[A\n",
      "Validation DataLoader 0:  21%|█████████████████████████████                                                                                                             | 102/485 [00:02<00:09, 42.30it/s]\u001B[A\n",
      "Validation DataLoader 0:  21%|█████████████████████████████▎                                                                                                            | 103/485 [00:02<00:09, 42.35it/s]\u001B[A\n",
      "Validation DataLoader 0:  21%|█████████████████████████████▌                                                                                                            | 104/485 [00:02<00:08, 42.39it/s]\u001B[A\n",
      "Validation DataLoader 0:  22%|█████████████████████████████▉                                                                                                            | 105/485 [00:02<00:08, 42.44it/s]\u001B[A\n",
      "Validation DataLoader 0:  22%|██████████████████████████████▏                                                                                                           | 106/485 [00:02<00:08, 42.48it/s]\u001B[A\n",
      "Validation DataLoader 0:  22%|██████████████████████████████▍                                                                                                           | 107/485 [00:02<00:08, 42.53it/s]\u001B[A\n",
      "Validation DataLoader 0:  22%|██████████████████████████████▋                                                                                                           | 108/485 [00:02<00:08, 42.55it/s]\u001B[A\n",
      "Validation DataLoader 0:  22%|███████████████████████████████                                                                                                           | 109/485 [00:02<00:08, 42.49it/s]\u001B[A\n",
      "Validation DataLoader 0:  23%|███████████████████████████████▎                                                                                                          | 110/485 [00:02<00:08, 42.55it/s]\u001B[A\n",
      "Validation DataLoader 0:  23%|███████████████████████████████▌                                                                                                          | 111/485 [00:02<00:08, 42.59it/s]\u001B[A\n",
      "Validation DataLoader 0:  23%|███████████████████████████████▊                                                                                                          | 112/485 [00:02<00:08, 42.62it/s]\u001B[A\n",
      "Validation DataLoader 0:  23%|████████████████████████████████▏                                                                                                         | 113/485 [00:02<00:08, 42.64it/s]\u001B[A\n",
      "Validation DataLoader 0:  24%|████████████████████████████████▍                                                                                                         | 114/485 [00:02<00:08, 42.68it/s]\u001B[A\n",
      "Validation DataLoader 0:  24%|████████████████████████████████▋                                                                                                         | 115/485 [00:02<00:08, 42.72it/s]\u001B[A\n",
      "Validation DataLoader 0:  24%|█████████████████████████████████                                                                                                         | 116/485 [00:02<00:08, 42.75it/s]\u001B[A\n",
      "Validation DataLoader 0:  24%|█████████████████████████████████▎                                                                                                        | 117/485 [00:02<00:08, 42.80it/s]\u001B[A\n",
      "Validation DataLoader 0:  24%|█████████████████████████████████▌                                                                                                        | 118/485 [00:02<00:08, 42.80it/s]\u001B[A\n",
      "Validation DataLoader 0:  25%|█████████████████████████████████▊                                                                                                        | 119/485 [00:02<00:08, 42.82it/s]\u001B[A\n",
      "Validation DataLoader 0:  25%|██████████████████████████████████▏                                                                                                       | 120/485 [00:02<00:08, 42.86it/s]\u001B[A\n",
      "Validation DataLoader 0:  25%|██████████████████████████████████▍                                                                                                       | 121/485 [00:02<00:08, 42.91it/s]\u001B[A\n",
      "Validation DataLoader 0:  25%|██████████████████████████████████▋                                                                                                       | 122/485 [00:02<00:08, 42.95it/s]\u001B[A\n",
      "Validation DataLoader 0:  25%|██████████████████████████████████▉                                                                                                       | 123/485 [00:02<00:08, 42.99it/s]\u001B[A\n",
      "Validation DataLoader 0:  26%|███████████████████████████████████▎                                                                                                      | 124/485 [00:02<00:08, 43.03it/s]\u001B[A\n",
      "Validation DataLoader 0:  26%|███████████████████████████████████▌                                                                                                      | 125/485 [00:02<00:08, 43.07it/s]\u001B[A\n",
      "Validation DataLoader 0:  26%|███████████████████████████████████▊                                                                                                      | 126/485 [00:02<00:08, 43.11it/s]\u001B[A\n",
      "Validation DataLoader 0:  26%|████████████████████████████████████▏                                                                                                     | 127/485 [00:02<00:08, 43.14it/s]\u001B[A\n",
      "Validation DataLoader 0:  26%|████████████████████████████████████▍                                                                                                     | 128/485 [00:02<00:08, 43.18it/s]\u001B[A\n",
      "Validation DataLoader 0:  27%|████████████████████████████████████▋                                                                                                     | 129/485 [00:02<00:08, 43.22it/s]\u001B[A\n",
      "Validation DataLoader 0:  27%|████████████████████████████████████▉                                                                                                     | 130/485 [00:03<00:08, 43.26it/s]\u001B[A\n",
      "Validation DataLoader 0:  27%|█████████████████████████████████████▎                                                                                                    | 131/485 [00:03<00:08, 43.30it/s]\u001B[A\n",
      "Validation DataLoader 0:  27%|█████████████████████████████████████▌                                                                                                    | 132/485 [00:03<00:08, 43.31it/s]\u001B[A\n",
      "Validation DataLoader 0:  27%|█████████████████████████████████████▊                                                                                                    | 133/485 [00:03<00:08, 43.36it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  28%|██████████████████████████████████████▏                                                                                                   | 134/485 [00:03<00:08, 43.40it/s]\u001B[A\n",
      "Validation DataLoader 0:  28%|██████████████████████████████████████▍                                                                                                   | 135/485 [00:03<00:08, 43.45it/s]\u001B[A\n",
      "Validation DataLoader 0:  28%|██████████████████████████████████████▋                                                                                                   | 136/485 [00:03<00:08, 43.48it/s]\u001B[A\n",
      "Validation DataLoader 0:  28%|██████████████████████████████████████▉                                                                                                   | 137/485 [00:03<00:07, 43.52it/s]\u001B[A\n",
      "Validation DataLoader 0:  28%|███████████████████████████████████████▎                                                                                                  | 138/485 [00:03<00:07, 43.54it/s]\u001B[A\n",
      "Validation DataLoader 0:  29%|███████████████████████████████████████▌                                                                                                  | 139/485 [00:03<00:07, 43.60it/s]\u001B[A\n",
      "Validation DataLoader 0:  29%|███████████████████████████████████████▊                                                                                                  | 140/485 [00:03<00:07, 43.63it/s]\u001B[A\n",
      "Validation DataLoader 0:  29%|████████████████████████████████████████                                                                                                  | 141/485 [00:03<00:07, 43.65it/s]\u001B[A\n",
      "Validation DataLoader 0:  29%|████████████████████████████████████████▍                                                                                                 | 142/485 [00:03<00:07, 43.68it/s]\u001B[A\n",
      "Validation DataLoader 0:  29%|████████████████████████████████████████▋                                                                                                 | 143/485 [00:03<00:07, 43.70it/s]\u001B[A\n",
      "Validation DataLoader 0:  30%|████████████████████████████████████████▉                                                                                                 | 144/485 [00:03<00:07, 43.71it/s]\u001B[A\n",
      "Validation DataLoader 0:  30%|█████████████████████████████████████████▎                                                                                                | 145/485 [00:03<00:07, 43.73it/s]\u001B[A\n",
      "Validation DataLoader 0:  30%|█████████████████████████████████████████▌                                                                                                | 146/485 [00:03<00:07, 43.75it/s]\u001B[A\n",
      "Validation DataLoader 0:  30%|█████████████████████████████████████████▊                                                                                                | 147/485 [00:03<00:07, 43.77it/s]\u001B[A\n",
      "Validation DataLoader 0:  31%|██████████████████████████████████████████                                                                                                | 148/485 [00:03<00:07, 43.80it/s]\u001B[A\n",
      "Validation DataLoader 0:  31%|██████████████████████████████████████████▍                                                                                               | 149/485 [00:03<00:07, 43.83it/s]\u001B[A\n",
      "Validation DataLoader 0:  31%|██████████████████████████████████████████▋                                                                                               | 150/485 [00:03<00:07, 43.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  31%|██████████████████████████████████████████▉                                                                                               | 151/485 [00:03<00:07, 43.88it/s]\u001B[A\n",
      "Validation DataLoader 0:  31%|███████████████████████████████████████████▏                                                                                              | 152/485 [00:03<00:07, 43.91it/s]\u001B[A\n",
      "Validation DataLoader 0:  32%|███████████████████████████████████████████▌                                                                                              | 153/485 [00:03<00:07, 43.94it/s]\u001B[A\n",
      "Validation DataLoader 0:  32%|███████████████████████████████████████████▊                                                                                              | 154/485 [00:03<00:07, 43.96it/s]\u001B[A\n",
      "Validation DataLoader 0:  32%|████████████████████████████████████████████                                                                                              | 155/485 [00:03<00:07, 43.99it/s]\u001B[A\n",
      "Validation DataLoader 0:  32%|████████████████████████████████████████████▍                                                                                             | 156/485 [00:03<00:07, 44.01it/s]\u001B[A\n",
      "Validation DataLoader 0:  32%|████████████████████████████████████████████▋                                                                                             | 157/485 [00:03<00:07, 44.04it/s]\u001B[A\n",
      "Validation DataLoader 0:  33%|████████████████████████████████████████████▉                                                                                             | 158/485 [00:03<00:07, 44.05it/s]\u001B[A\n",
      "Validation DataLoader 0:  33%|█████████████████████████████████████████████▏                                                                                            | 159/485 [00:03<00:07, 44.08it/s]\u001B[A\n",
      "Validation DataLoader 0:  33%|█████████████████████████████████████████████▌                                                                                            | 160/485 [00:03<00:07, 44.11it/s]\u001B[A\n",
      "Validation DataLoader 0:  33%|█████████████████████████████████████████████▊                                                                                            | 161/485 [00:03<00:07, 44.13it/s]\u001B[A\n",
      "Validation DataLoader 0:  33%|██████████████████████████████████████████████                                                                                            | 162/485 [00:03<00:07, 44.15it/s]\u001B[A\n",
      "Validation DataLoader 0:  34%|██████████████████████████████████████████████▍                                                                                           | 163/485 [00:03<00:07, 44.17it/s]\u001B[A\n",
      "Validation DataLoader 0:  34%|██████████████████████████████████████████████▋                                                                                           | 164/485 [00:03<00:07, 44.20it/s]\u001B[A\n",
      "Validation DataLoader 0:  34%|██████████████████████████████████████████████▉                                                                                           | 165/485 [00:03<00:07, 44.22it/s]\u001B[A\n",
      "Validation DataLoader 0:  34%|███████████████████████████████████████████████▏                                                                                          | 166/485 [00:03<00:07, 44.24it/s]\u001B[A\n",
      "Validation DataLoader 0:  34%|███████████████████████████████████████████████▌                                                                                          | 167/485 [00:03<00:07, 44.27it/s]\u001B[A\n",
      "Validation DataLoader 0:  35%|███████████████████████████████████████████████▊                                                                                          | 168/485 [00:03<00:07, 44.31it/s]\u001B[A\n",
      "Validation DataLoader 0:  35%|████████████████████████████████████████████████                                                                                          | 169/485 [00:03<00:07, 44.32it/s]\u001B[A\n",
      "Validation DataLoader 0:  35%|████████████████████████████████████████████████▎                                                                                         | 170/485 [00:03<00:07, 44.34it/s]\u001B[A\n",
      "Validation DataLoader 0:  35%|████████████████████████████████████████████████▋                                                                                         | 171/485 [00:03<00:07, 44.36it/s]\u001B[A\n",
      "Validation DataLoader 0:  35%|████████████████████████████████████████████████▉                                                                                         | 172/485 [00:03<00:07, 44.39it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  36%|█████████████████████████████████████████████████▏                                                                                        | 173/485 [00:03<00:07, 44.39it/s]\u001B[A\n",
      "Validation DataLoader 0:  36%|█████████████████████████████████████████████████▌                                                                                        | 174/485 [00:03<00:07, 44.41it/s]\u001B[A\n",
      "Validation DataLoader 0:  36%|█████████████████████████████████████████████████▊                                                                                        | 175/485 [00:03<00:06, 44.41it/s]\u001B[A\n",
      "Validation DataLoader 0:  36%|██████████████████████████████████████████████████                                                                                        | 176/485 [00:03<00:06, 44.42it/s]\u001B[A\n",
      "Validation DataLoader 0:  36%|██████████████████████████████████████████████████▎                                                                                       | 177/485 [00:03<00:06, 44.45it/s]\u001B[A\n",
      "Validation DataLoader 0:  37%|██████████████████████████████████████████████████▋                                                                                       | 178/485 [00:04<00:06, 44.46it/s]\u001B[A\n",
      "Validation DataLoader 0:  37%|██████████████████████████████████████████████████▉                                                                                       | 179/485 [00:04<00:06, 44.49it/s]\u001B[A\n",
      "Validation DataLoader 0:  37%|███████████████████████████████████████████████████▏                                                                                      | 180/485 [00:04<00:06, 44.47it/s]\u001B[A\n",
      "Validation DataLoader 0:  37%|███████████████████████████████████████████████████▌                                                                                      | 181/485 [00:04<00:06, 44.48it/s]\u001B[A\n",
      "Validation DataLoader 0:  38%|███████████████████████████████████████████████████▊                                                                                      | 182/485 [00:04<00:06, 44.50it/s]\u001B[A\n",
      "Validation DataLoader 0:  38%|████████████████████████████████████████████████████                                                                                      | 183/485 [00:04<00:06, 44.52it/s]\u001B[A\n",
      "Validation DataLoader 0:  38%|████████████████████████████████████████████████████▎                                                                                     | 184/485 [00:04<00:06, 44.54it/s]\u001B[A\n",
      "Validation DataLoader 0:  38%|████████████████████████████████████████████████████▋                                                                                     | 185/485 [00:04<00:06, 44.56it/s]\u001B[A\n",
      "Validation DataLoader 0:  38%|████████████████████████████████████████████████████▉                                                                                     | 186/485 [00:04<00:06, 44.58it/s]\u001B[A\n",
      "Validation DataLoader 0:  39%|█████████████████████████████████████████████████████▏                                                                                    | 187/485 [00:04<00:06, 44.60it/s]\u001B[A\n",
      "Validation DataLoader 0:  39%|█████████████████████████████████████████████████████▍                                                                                    | 188/485 [00:04<00:06, 44.61it/s]\u001B[A\n",
      "Validation DataLoader 0:  39%|█████████████████████████████████████████████████████▊                                                                                    | 189/485 [00:04<00:06, 44.63it/s]\u001B[A\n",
      "Validation DataLoader 0:  39%|██████████████████████████████████████████████████████                                                                                    | 190/485 [00:04<00:06, 44.65it/s]\u001B[A\n",
      "Validation DataLoader 0:  39%|██████████████████████████████████████████████████████▎                                                                                   | 191/485 [00:04<00:06, 44.67it/s]\u001B[A\n",
      "Validation DataLoader 0:  40%|██████████████████████████████████████████████████████▋                                                                                   | 192/485 [00:04<00:06, 44.68it/s]\u001B[A\n",
      "Validation DataLoader 0:  40%|██████████████████████████████████████████████████████▉                                                                                   | 193/485 [00:04<00:06, 44.71it/s]\u001B[A\n",
      "Validation DataLoader 0:  40%|███████████████████████████████████████████████████████▏                                                                                  | 194/485 [00:04<00:06, 44.73it/s]\u001B[A\n",
      "Validation DataLoader 0:  40%|███████████████████████████████████████████████████████▍                                                                                  | 195/485 [00:04<00:06, 44.76it/s]\u001B[A\n",
      "Validation DataLoader 0:  40%|███████████████████████████████████████████████████████▊                                                                                  | 196/485 [00:04<00:06, 44.78it/s]\u001B[A\n",
      "Validation DataLoader 0:  41%|████████████████████████████████████████████████████████                                                                                  | 197/485 [00:04<00:06, 44.79it/s]\u001B[A\n",
      "Validation DataLoader 0:  41%|████████████████████████████████████████████████████████▎                                                                                 | 198/485 [00:04<00:06, 44.81it/s]\u001B[A\n",
      "Validation DataLoader 0:  41%|████████████████████████████████████████████████████████▌                                                                                 | 199/485 [00:04<00:06, 44.83it/s]\u001B[A\n",
      "Validation DataLoader 0:  41%|████████████████████████████████████████████████████████▉                                                                                 | 200/485 [00:04<00:06, 44.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  41%|█████████████████████████████████████████████████████████▏                                                                                | 201/485 [00:04<00:06, 44.87it/s]\u001B[A\n",
      "Validation DataLoader 0:  42%|█████████████████████████████████████████████████████████▍                                                                                | 202/485 [00:04<00:06, 44.88it/s]\u001B[A\n",
      "Validation DataLoader 0:  42%|█████████████████████████████████████████████████████████▊                                                                                | 203/485 [00:04<00:06, 44.90it/s]\u001B[A\n",
      "Validation DataLoader 0:  42%|██████████████████████████████████████████████████████████                                                                                | 204/485 [00:04<00:06, 44.91it/s]\u001B[A\n",
      "Validation DataLoader 0:  42%|██████████████████████████████████████████████████████████▎                                                                               | 205/485 [00:04<00:06, 44.93it/s]\u001B[A\n",
      "Validation DataLoader 0:  42%|██████████████████████████████████████████████████████████▌                                                                               | 206/485 [00:04<00:06, 44.95it/s]\u001B[A\n",
      "Validation DataLoader 0:  43%|██████████████████████████████████████████████████████████▉                                                                               | 207/485 [00:04<00:06, 44.96it/s]\u001B[A\n",
      "Validation DataLoader 0:  43%|███████████████████████████████████████████████████████████▏                                                                              | 208/485 [00:04<00:06, 44.98it/s]\u001B[A\n",
      "Validation DataLoader 0:  43%|███████████████████████████████████████████████████████████▍                                                                              | 209/485 [00:04<00:06, 44.99it/s]\u001B[A\n",
      "Validation DataLoader 0:  43%|███████████████████████████████████████████████████████████▊                                                                              | 210/485 [00:04<00:06, 45.01it/s]\u001B[A\n",
      "Validation DataLoader 0:  44%|████████████████████████████████████████████████████████████                                                                              | 211/485 [00:04<00:06, 45.03it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  44%|████████████████████████████████████████████████████████████▎                                                                             | 212/485 [00:04<00:06, 45.04it/s]\u001B[A\n",
      "Validation DataLoader 0:  44%|████████████████████████████████████████████████████████████▌                                                                             | 213/485 [00:04<00:06, 45.06it/s]\u001B[A\n",
      "Validation DataLoader 0:  44%|████████████████████████████████████████████████████████████▉                                                                             | 214/485 [00:04<00:06, 45.07it/s]\u001B[A\n",
      "Validation DataLoader 0:  44%|█████████████████████████████████████████████████████████████▏                                                                            | 215/485 [00:04<00:05, 45.07it/s]\u001B[A\n",
      "Validation DataLoader 0:  45%|█████████████████████████████████████████████████████████████▍                                                                            | 216/485 [00:04<00:05, 45.09it/s]\u001B[A\n",
      "Validation DataLoader 0:  45%|█████████████████████████████████████████████████████████████▋                                                                            | 217/485 [00:04<00:05, 45.09it/s]\u001B[A\n",
      "Validation DataLoader 0:  45%|██████████████████████████████████████████████████████████████                                                                            | 218/485 [00:04<00:05, 45.11it/s]\u001B[A\n",
      "Validation DataLoader 0:  45%|██████████████████████████████████████████████████████████████▎                                                                           | 219/485 [00:04<00:05, 45.11it/s]\u001B[A\n",
      "Validation DataLoader 0:  45%|██████████████████████████████████████████████████████████████▌                                                                           | 220/485 [00:04<00:05, 45.13it/s]\u001B[A\n",
      "Validation DataLoader 0:  46%|██████████████████████████████████████████████████████████████▉                                                                           | 221/485 [00:04<00:05, 45.14it/s]\u001B[A\n",
      "Validation DataLoader 0:  46%|███████████████████████████████████████████████████████████████▏                                                                          | 222/485 [00:04<00:05, 45.16it/s]\u001B[A\n",
      "Validation DataLoader 0:  46%|███████████████████████████████████████████████████████████████▍                                                                          | 223/485 [00:04<00:05, 45.17it/s]\u001B[A\n",
      "Validation DataLoader 0:  46%|███████████████████████████████████████████████████████████████▋                                                                          | 224/485 [00:04<00:05, 45.19it/s]\u001B[A\n",
      "Validation DataLoader 0:  46%|████████████████████████████████████████████████████████████████                                                                          | 225/485 [00:04<00:05, 45.20it/s]\u001B[A\n",
      "Validation DataLoader 0:  47%|████████████████████████████████████████████████████████████████▎                                                                         | 226/485 [00:04<00:05, 45.21it/s]\u001B[A\n",
      "Validation DataLoader 0:  47%|████████████████████████████████████████████████████████████████▌                                                                         | 227/485 [00:05<00:05, 45.22it/s]\u001B[A\n",
      "Validation DataLoader 0:  47%|████████████████████████████████████████████████████████████████▊                                                                         | 228/485 [00:05<00:05, 45.24it/s]\u001B[A\n",
      "Validation DataLoader 0:  47%|█████████████████████████████████████████████████████████████████▏                                                                        | 229/485 [00:05<00:05, 45.25it/s]\u001B[A\n",
      "Validation DataLoader 0:  47%|█████████████████████████████████████████████████████████████████▍                                                                        | 230/485 [00:05<00:05, 45.26it/s]\u001B[A\n",
      "Validation DataLoader 0:  48%|█████████████████████████████████████████████████████████████████▋                                                                        | 231/485 [00:05<00:05, 45.28it/s]\u001B[A\n",
      "Validation DataLoader 0:  48%|██████████████████████████████████████████████████████████████████                                                                        | 232/485 [00:05<00:05, 45.29it/s]\u001B[A\n",
      "Validation DataLoader 0:  48%|██████████████████████████████████████████████████████████████████▎                                                                       | 233/485 [00:05<00:05, 45.31it/s]\u001B[A\n",
      "Validation DataLoader 0:  48%|██████████████████████████████████████████████████████████████████▌                                                                       | 234/485 [00:05<00:05, 45.31it/s]\u001B[A\n",
      "Validation DataLoader 0:  48%|██████████████████████████████████████████████████████████████████▊                                                                       | 235/485 [00:05<00:05, 45.33it/s]\u001B[A\n",
      "Validation DataLoader 0:  49%|███████████████████████████████████████████████████████████████████▏                                                                      | 236/485 [00:05<00:05, 45.34it/s]\u001B[A\n",
      "Validation DataLoader 0:  49%|███████████████████████████████████████████████████████████████████▍                                                                      | 237/485 [00:05<00:05, 45.35it/s]\u001B[A\n",
      "Validation DataLoader 0:  49%|███████████████████████████████████████████████████████████████████▋                                                                      | 238/485 [00:05<00:05, 45.35it/s]\u001B[A\n",
      "Validation DataLoader 0:  49%|████████████████████████████████████████████████████████████████████                                                                      | 239/485 [00:05<00:05, 45.37it/s]\u001B[A\n",
      "Validation DataLoader 0:  49%|████████████████████████████████████████████████████████████████████▎                                                                     | 240/485 [00:05<00:05, 45.37it/s]\u001B[A\n",
      "Validation DataLoader 0:  50%|████████████████████████████████████████████████████████████████████▌                                                                     | 241/485 [00:05<00:05, 45.38it/s]\u001B[A\n",
      "Validation DataLoader 0:  50%|████████████████████████████████████████████████████████████████████▊                                                                     | 242/485 [00:05<00:05, 45.38it/s]\u001B[A\n",
      "Validation DataLoader 0:  50%|█████████████████████████████████████████████████████████████████████▏                                                                    | 243/485 [00:05<00:05, 45.40it/s]\u001B[A\n",
      "Validation DataLoader 0:  50%|█████████████████████████████████████████████████████████████████████▍                                                                    | 244/485 [00:05<00:05, 45.42it/s]\u001B[A\n",
      "Validation DataLoader 0:  51%|█████████████████████████████████████████████████████████████████████▋                                                                    | 245/485 [00:05<00:05, 45.43it/s]\u001B[A\n",
      "Validation DataLoader 0:  51%|█████████████████████████████████████████████████████████████████████▉                                                                    | 246/485 [00:05<00:05, 45.44it/s]\u001B[A\n",
      "Validation DataLoader 0:  51%|██████████████████████████████████████████████████████████████████████▎                                                                   | 247/485 [00:05<00:05, 45.45it/s]\u001B[A\n",
      "Validation DataLoader 0:  51%|██████████████████████████████████████████████████████████████████████▌                                                                   | 248/485 [00:05<00:05, 45.46it/s]\u001B[A\n",
      "Validation DataLoader 0:  51%|██████████████████████████████████████████████████████████████████████▊                                                                   | 249/485 [00:05<00:05, 45.48it/s]\u001B[A\n",
      "Validation DataLoader 0:  52%|███████████████████████████████████████████████████████████████████████▏                                                                  | 250/485 [00:05<00:05, 45.48it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  52%|███████████████████████████████████████████████████████████████████████▍                                                                  | 251/485 [00:05<00:05, 45.50it/s]\u001B[A\n",
      "Validation DataLoader 0:  52%|███████████████████████████████████████████████████████████████████████▋                                                                  | 252/485 [00:05<00:05, 45.51it/s]\u001B[A\n",
      "Validation DataLoader 0:  52%|███████████████████████████████████████████████████████████████████████▉                                                                  | 253/485 [00:05<00:05, 45.53it/s]\u001B[A\n",
      "Validation DataLoader 0:  52%|████████████████████████████████████████████████████████████████████████▎                                                                 | 254/485 [00:05<00:05, 45.53it/s]\u001B[A\n",
      "Validation DataLoader 0:  53%|████████████████████████████████████████████████████████████████████████▌                                                                 | 255/485 [00:05<00:05, 45.55it/s]\u001B[A\n",
      "Validation DataLoader 0:  53%|████████████████████████████████████████████████████████████████████████▊                                                                 | 256/485 [00:05<00:05, 45.56it/s]\u001B[A\n",
      "Validation DataLoader 0:  53%|█████████████████████████████████████████████████████████████████████████▏                                                                | 257/485 [00:05<00:05, 45.57it/s]\u001B[A\n",
      "Validation DataLoader 0:  53%|█████████████████████████████████████████████████████████████████████████▍                                                                | 258/485 [00:05<00:04, 45.57it/s]\u001B[A\n",
      "Validation DataLoader 0:  53%|█████████████████████████████████████████████████████████████████████████▋                                                                | 259/485 [00:05<00:04, 45.56it/s]\u001B[A\n",
      "Validation DataLoader 0:  54%|█████████████████████████████████████████████████████████████████████████▉                                                                | 260/485 [00:05<00:04, 45.53it/s]\u001B[A\n",
      "Validation DataLoader 0:  54%|██████████████████████████████████████████████████████████████████████████▎                                                               | 261/485 [00:05<00:04, 45.53it/s]\u001B[A\n",
      "Validation DataLoader 0:  54%|██████████████████████████████████████████████████████████████████████████▌                                                               | 262/485 [00:05<00:04, 45.53it/s]\u001B[A\n",
      "Validation DataLoader 0:  54%|██████████████████████████████████████████████████████████████████████████▊                                                               | 263/485 [00:05<00:04, 45.55it/s]\u001B[A\n",
      "Validation DataLoader 0:  54%|███████████████████████████████████████████████████████████████████████████                                                               | 264/485 [00:05<00:04, 45.55it/s]\u001B[A\n",
      "Validation DataLoader 0:  55%|███████████████████████████████████████████████████████████████████████████▍                                                              | 265/485 [00:05<00:04, 45.57it/s]\u001B[A\n",
      "Validation DataLoader 0:  55%|███████████████████████████████████████████████████████████████████████████▋                                                              | 266/485 [00:05<00:04, 45.58it/s]\u001B[A\n",
      "Validation DataLoader 0:  55%|███████████████████████████████████████████████████████████████████████████▉                                                              | 267/485 [00:05<00:04, 45.60it/s]\u001B[A\n",
      "Validation DataLoader 0:  55%|████████████████████████████████████████████████████████████████████████████▎                                                             | 268/485 [00:05<00:04, 45.60it/s]\u001B[A\n",
      "Validation DataLoader 0:  55%|████████████████████████████████████████████████████████████████████████████▌                                                             | 269/485 [00:05<00:04, 45.62it/s]\u001B[A\n",
      "Validation DataLoader 0:  56%|████████████████████████████████████████████████████████████████████████████▊                                                             | 270/485 [00:05<00:04, 45.63it/s]\u001B[A\n",
      "Validation DataLoader 0:  56%|█████████████████████████████████████████████████████████████████████████████                                                             | 271/485 [00:05<00:04, 45.64it/s]\u001B[A\n",
      "Validation DataLoader 0:  56%|█████████████████████████████████████████████████████████████████████████████▍                                                            | 272/485 [00:05<00:04, 45.65it/s]\u001B[A\n",
      "Validation DataLoader 0:  56%|█████████████████████████████████████████████████████████████████████████████▋                                                            | 273/485 [00:05<00:04, 45.64it/s]\u001B[A\n",
      "Validation DataLoader 0:  56%|█████████████████████████████████████████████████████████████████████████████▉                                                            | 274/485 [00:06<00:04, 45.62it/s]\u001B[A\n",
      "Validation DataLoader 0:  57%|██████████████████████████████████████████████████████████████████████████████▏                                                           | 275/485 [00:06<00:04, 45.63it/s]\u001B[A\n",
      "Validation DataLoader 0:  57%|██████████████████████████████████████████████████████████████████████████████▌                                                           | 276/485 [00:06<00:04, 45.64it/s]\u001B[A\n",
      "Validation DataLoader 0:  57%|██████████████████████████████████████████████████████████████████████████████▊                                                           | 277/485 [00:06<00:04, 45.65it/s]\u001B[A\n",
      "Validation DataLoader 0:  57%|███████████████████████████████████████████████████████████████████████████████                                                           | 278/485 [00:06<00:04, 45.66it/s]\u001B[A\n",
      "Validation DataLoader 0:  58%|███████████████████████████████████████████████████████████████████████████████▍                                                          | 279/485 [00:06<00:04, 45.67it/s]\u001B[A\n",
      "Validation DataLoader 0:  58%|███████████████████████████████████████████████████████████████████████████████▋                                                          | 280/485 [00:06<00:04, 45.68it/s]\u001B[A\n",
      "Validation DataLoader 0:  58%|███████████████████████████████████████████████████████████████████████████████▉                                                          | 281/485 [00:06<00:04, 45.66it/s]\u001B[A\n",
      "Validation DataLoader 0:  58%|████████████████████████████████████████████████████████████████████████████████▏                                                         | 282/485 [00:06<00:04, 45.67it/s]\u001B[A\n",
      "Validation DataLoader 0:  58%|████████████████████████████████████████████████████████████████████████████████▌                                                         | 283/485 [00:06<00:04, 45.68it/s]\u001B[A\n",
      "Validation DataLoader 0:  59%|████████████████████████████████████████████████████████████████████████████████▊                                                         | 284/485 [00:06<00:04, 45.69it/s]\u001B[A\n",
      "Validation DataLoader 0:  59%|█████████████████████████████████████████████████████████████████████████████████                                                         | 285/485 [00:06<00:04, 45.69it/s]\u001B[A\n",
      "Validation DataLoader 0:  59%|█████████████████████████████████████████████████████████████████████████████████▍                                                        | 286/485 [00:06<00:04, 45.70it/s]\u001B[A\n",
      "Validation DataLoader 0:  59%|█████████████████████████████████████████████████████████████████████████████████▋                                                        | 287/485 [00:06<00:04, 45.71it/s]\u001B[A\n",
      "Validation DataLoader 0:  59%|█████████████████████████████████████████████████████████████████████████████████▉                                                        | 288/485 [00:06<00:04, 45.71it/s]\u001B[A\n",
      "Validation DataLoader 0:  60%|██████████████████████████████████████████████████████████████████████████████████▏                                                       | 289/485 [00:06<00:04, 45.69it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  60%|██████████████████████████████████████████████████████████████████████████████████▌                                                       | 290/485 [00:06<00:04, 45.69it/s]\u001B[A\n",
      "Validation DataLoader 0:  60%|██████████████████████████████████████████████████████████████████████████████████▊                                                       | 291/485 [00:06<00:04, 45.67it/s]\u001B[A\n",
      "Validation DataLoader 0:  60%|███████████████████████████████████████████████████████████████████████████████████                                                       | 292/485 [00:06<00:04, 45.68it/s]\u001B[A\n",
      "Validation DataLoader 0:  60%|███████████████████████████████████████████████████████████████████████████████████▎                                                      | 293/485 [00:06<00:04, 45.70it/s]\u001B[A\n",
      "Validation DataLoader 0:  61%|███████████████████████████████████████████████████████████████████████████████████▋                                                      | 294/485 [00:06<00:04, 45.71it/s]\u001B[A\n",
      "Validation DataLoader 0:  61%|███████████████████████████████████████████████████████████████████████████████████▉                                                      | 295/485 [00:06<00:04, 45.72it/s]\u001B[A\n",
      "Validation DataLoader 0:  61%|████████████████████████████████████████████████████████████████████████████████████▏                                                     | 296/485 [00:06<00:04, 45.73it/s]\u001B[A\n",
      "Validation DataLoader 0:  61%|████████████████████████████████████████████████████████████████████████████████████▌                                                     | 297/485 [00:06<00:04, 45.74it/s]\u001B[A\n",
      "Validation DataLoader 0:  61%|████████████████████████████████████████████████████████████████████████████████████▊                                                     | 298/485 [00:06<00:04, 45.74it/s]\u001B[A\n",
      "Validation DataLoader 0:  62%|█████████████████████████████████████████████████████████████████████████████████████                                                     | 299/485 [00:06<00:04, 45.75it/s]\u001B[A\n",
      "Validation DataLoader 0:  62%|█████████████████████████████████████████████████████████████████████████████████████▎                                                    | 300/485 [00:06<00:04, 45.77it/s]\u001B[A\n",
      "Validation DataLoader 0:  62%|█████████████████████████████████████████████████████████████████████████████████████▋                                                    | 301/485 [00:06<00:04, 45.77it/s]\u001B[A\n",
      "Validation DataLoader 0:  62%|█████████████████████████████████████████████████████████████████████████████████████▉                                                    | 302/485 [00:06<00:03, 45.78it/s]\u001B[A\n",
      "Validation DataLoader 0:  62%|██████████████████████████████████████████████████████████████████████████████████████▏                                                   | 303/485 [00:06<00:03, 45.79it/s]\u001B[A\n",
      "Validation DataLoader 0:  63%|██████████████████████████████████████████████████████████████████████████████████████▍                                                   | 304/485 [00:06<00:03, 45.80it/s]\u001B[A\n",
      "Validation DataLoader 0:  63%|██████████████████████████████████████████████████████████████████████████████████████▊                                                   | 305/485 [00:06<00:03, 45.80it/s]\u001B[A\n",
      "Validation DataLoader 0:  63%|███████████████████████████████████████████████████████████████████████████████████████                                                   | 306/485 [00:06<00:03, 45.81it/s]\u001B[A\n",
      "Validation DataLoader 0:  63%|███████████████████████████████████████████████████████████████████████████████████████▎                                                  | 307/485 [00:06<00:03, 45.82it/s]\u001B[A\n",
      "Validation DataLoader 0:  64%|███████████████████████████████████████████████████████████████████████████████████████▋                                                  | 308/485 [00:06<00:03, 45.83it/s]\u001B[A\n",
      "Validation DataLoader 0:  64%|███████████████████████████████████████████████████████████████████████████████████████▉                                                  | 309/485 [00:06<00:03, 45.83it/s]\u001B[A\n",
      "Validation DataLoader 0:  64%|████████████████████████████████████████████████████████████████████████████████████████▏                                                 | 310/485 [00:06<00:03, 45.84it/s]\u001B[A\n",
      "Validation DataLoader 0:  64%|████████████████████████████████████████████████████████████████████████████████████████▍                                                 | 311/485 [00:06<00:03, 45.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  64%|████████████████████████████████████████████████████████████████████████████████████████▊                                                 | 312/485 [00:06<00:03, 45.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  65%|█████████████████████████████████████████████████████████████████████████████████████████                                                 | 313/485 [00:06<00:03, 45.87it/s]\u001B[A\n",
      "Validation DataLoader 0:  65%|█████████████████████████████████████████████████████████████████████████████████████████▎                                                | 314/485 [00:06<00:03, 45.87it/s]\u001B[A\n",
      "Validation DataLoader 0:  65%|█████████████████████████████████████████████████████████████████████████████████████████▋                                                | 315/485 [00:06<00:03, 45.88it/s]\u001B[A\n",
      "Validation DataLoader 0:  65%|█████████████████████████████████████████████████████████████████████████████████████████▉                                                | 316/485 [00:06<00:03, 45.89it/s]\u001B[A\n",
      "Validation DataLoader 0:  65%|██████████████████████████████████████████████████████████████████████████████████████████▏                                               | 317/485 [00:06<00:03, 45.90it/s]\u001B[A\n",
      "Validation DataLoader 0:  66%|██████████████████████████████████████████████████████████████████████████████████████████▍                                               | 318/485 [00:06<00:03, 45.90it/s]\u001B[A\n",
      "Validation DataLoader 0:  66%|██████████████████████████████████████████████████████████████████████████████████████████▊                                               | 319/485 [00:06<00:03, 45.91it/s]\u001B[A\n",
      "Validation DataLoader 0:  66%|███████████████████████████████████████████████████████████████████████████████████████████                                               | 320/485 [00:06<00:03, 45.92it/s]\u001B[A\n",
      "Validation DataLoader 0:  66%|███████████████████████████████████████████████████████████████████████████████████████████▎                                              | 321/485 [00:06<00:03, 45.93it/s]\u001B[A\n",
      "Validation DataLoader 0:  66%|███████████████████████████████████████████████████████████████████████████████████████████▌                                              | 322/485 [00:07<00:03, 45.93it/s]\u001B[A\n",
      "Validation DataLoader 0:  67%|███████████████████████████████████████████████████████████████████████████████████████████▉                                              | 323/485 [00:07<00:03, 45.94it/s]\u001B[A\n",
      "Validation DataLoader 0:  67%|████████████████████████████████████████████████████████████████████████████████████████████▏                                             | 324/485 [00:07<00:03, 45.95it/s]\u001B[A\n",
      "Validation DataLoader 0:  67%|████████████████████████████████████████████████████████████████████████████████████████████▍                                             | 325/485 [00:07<00:03, 45.96it/s]\u001B[A\n",
      "Validation DataLoader 0:  67%|████████████████████████████████████████████████████████████████████████████████████████████▊                                             | 326/485 [00:07<00:03, 45.97it/s]\u001B[A\n",
      "Validation DataLoader 0:  67%|█████████████████████████████████████████████████████████████████████████████████████████████                                             | 327/485 [00:07<00:03, 45.96it/s]\u001B[A\n",
      "Validation DataLoader 0:  68%|█████████████████████████████████████████████████████████████████████████████████████████████▎                                            | 328/485 [00:07<00:03, 45.96it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  68%|█████████████████████████████████████████████████████████████████████████████████████████████▌                                            | 329/485 [00:07<00:03, 45.98it/s]\u001B[A\n",
      "Validation DataLoader 0:  68%|█████████████████████████████████████████████████████████████████████████████████████████████▉                                            | 330/485 [00:07<00:03, 45.98it/s]\u001B[A\n",
      "Validation DataLoader 0:  68%|██████████████████████████████████████████████████████████████████████████████████████████████▏                                           | 331/485 [00:07<00:03, 45.99it/s]\u001B[A\n",
      "Validation DataLoader 0:  68%|██████████████████████████████████████████████████████████████████████████████████████████████▍                                           | 332/485 [00:07<00:03, 46.00it/s]\u001B[A\n",
      "Validation DataLoader 0:  69%|██████████████████████████████████████████████████████████████████████████████████████████████▊                                           | 333/485 [00:07<00:03, 46.01it/s]\u001B[A\n",
      "Validation DataLoader 0:  69%|███████████████████████████████████████████████████████████████████████████████████████████████                                           | 334/485 [00:07<00:03, 46.03it/s]\u001B[A\n",
      "Validation DataLoader 0:  69%|███████████████████████████████████████████████████████████████████████████████████████████████▎                                          | 335/485 [00:07<00:03, 46.04it/s]\u001B[A\n",
      "Validation DataLoader 0:  69%|███████████████████████████████████████████████████████████████████████████████████████████████▌                                          | 336/485 [00:07<00:03, 46.05it/s]\u001B[A\n",
      "Validation DataLoader 0:  69%|███████████████████████████████████████████████████████████████████████████████████████████████▉                                          | 337/485 [00:07<00:03, 46.07it/s]\u001B[A\n",
      "Validation DataLoader 0:  70%|████████████████████████████████████████████████████████████████████████████████████████████████▏                                         | 338/485 [00:07<00:03, 46.08it/s]\u001B[A\n",
      "Validation DataLoader 0:  70%|████████████████████████████████████████████████████████████████████████████████████████████████▍                                         | 339/485 [00:07<00:03, 46.09it/s]\u001B[A\n",
      "Validation DataLoader 0:  70%|████████████████████████████████████████████████████████████████████████████████████████████████▋                                         | 340/485 [00:07<00:03, 46.11it/s]\u001B[A\n",
      "Validation DataLoader 0:  70%|█████████████████████████████████████████████████████████████████████████████████████████████████                                         | 341/485 [00:07<00:03, 46.12it/s]\u001B[A\n",
      "Validation DataLoader 0:  71%|█████████████████████████████████████████████████████████████████████████████████████████████████▎                                        | 342/485 [00:07<00:03, 46.13it/s]\u001B[A\n",
      "Validation DataLoader 0:  71%|█████████████████████████████████████████████████████████████████████████████████████████████████▌                                        | 343/485 [00:07<00:03, 46.14it/s]\u001B[A\n",
      "Validation DataLoader 0:  71%|█████████████████████████████████████████████████████████████████████████████████████████████████▉                                        | 344/485 [00:07<00:03, 46.15it/s]\u001B[A\n",
      "Validation DataLoader 0:  71%|██████████████████████████████████████████████████████████████████████████████████████████████████▏                                       | 345/485 [00:07<00:03, 46.16it/s]\u001B[A\n",
      "Validation DataLoader 0:  71%|██████████████████████████████████████████████████████████████████████████████████████████████████▍                                       | 346/485 [00:07<00:03, 46.17it/s]\u001B[A\n",
      "Validation DataLoader 0:  72%|██████████████████████████████████████████████████████████████████████████████████████████████████▋                                       | 347/485 [00:07<00:02, 46.18it/s]\u001B[A\n",
      "Validation DataLoader 0:  72%|███████████████████████████████████████████████████████████████████████████████████████████████████                                       | 348/485 [00:07<00:02, 46.20it/s]\u001B[A\n",
      "Validation DataLoader 0:  72%|███████████████████████████████████████████████████████████████████████████████████████████████████▎                                      | 349/485 [00:07<00:02, 46.19it/s]\u001B[A\n",
      "Validation DataLoader 0:  72%|███████████████████████████████████████████████████████████████████████████████████████████████████▌                                      | 350/485 [00:07<00:02, 46.18it/s]\u001B[A\n",
      "Validation DataLoader 0:  72%|███████████████████████████████████████████████████████████████████████████████████████████████████▊                                      | 351/485 [00:07<00:02, 46.18it/s]\u001B[A\n",
      "Validation DataLoader 0:  73%|████████████████████████████████████████████████████████████████████████████████████████████████████▏                                     | 352/485 [00:07<00:02, 46.18it/s]\u001B[A\n",
      "Validation DataLoader 0:  73%|████████████████████████████████████████████████████████████████████████████████████████████████████▍                                     | 353/485 [00:07<00:02, 46.19it/s]\u001B[A\n",
      "Validation DataLoader 0:  73%|████████████████████████████████████████████████████████████████████████████████████████████████████▋                                     | 354/485 [00:07<00:02, 46.19it/s]\u001B[A\n",
      "Validation DataLoader 0:  73%|█████████████████████████████████████████████████████████████████████████████████████████████████████                                     | 355/485 [00:07<00:02, 46.20it/s]\u001B[A\n",
      "Validation DataLoader 0:  73%|█████████████████████████████████████████████████████████████████████████████████████████████████████▎                                    | 356/485 [00:07<00:02, 46.20it/s]\u001B[A\n",
      "Validation DataLoader 0:  74%|█████████████████████████████████████████████████████████████████████████████████████████████████████▌                                    | 357/485 [00:07<00:02, 46.21it/s]\u001B[A\n",
      "Validation DataLoader 0:  74%|█████████████████████████████████████████████████████████████████████████████████████████████████████▊                                    | 358/485 [00:07<00:02, 46.21it/s]\u001B[A\n",
      "Validation DataLoader 0:  74%|██████████████████████████████████████████████████████████████████████████████████████████████████████▏                                   | 359/485 [00:07<00:02, 46.22it/s]\u001B[A\n",
      "Validation DataLoader 0:  74%|██████████████████████████████████████████████████████████████████████████████████████████████████████▍                                   | 360/485 [00:07<00:02, 46.22it/s]\u001B[A\n",
      "Validation DataLoader 0:  74%|██████████████████████████████████████████████████████████████████████████████████████████████████████▋                                   | 361/485 [00:07<00:02, 46.22it/s]\u001B[A\n",
      "Validation DataLoader 0:  75%|███████████████████████████████████████████████████████████████████████████████████████████████████████                                   | 362/485 [00:07<00:02, 46.22it/s]\u001B[A\n",
      "Validation DataLoader 0:  75%|███████████████████████████████████████████████████████████████████████████████████████████████████████▎                                  | 363/485 [00:07<00:02, 46.23it/s]\u001B[A\n",
      "Validation DataLoader 0:  75%|███████████████████████████████████████████████████████████████████████████████████████████████████████▌                                  | 364/485 [00:07<00:02, 46.24it/s]\u001B[A\n",
      "Validation DataLoader 0:  75%|███████████████████████████████████████████████████████████████████████████████████████████████████████▊                                  | 365/485 [00:07<00:02, 46.25it/s]\u001B[A\n",
      "Validation DataLoader 0:  75%|████████████████████████████████████████████████████████████████████████████████████████████████████████▏                                 | 366/485 [00:07<00:02, 46.25it/s]\u001B[A\n",
      "Validation DataLoader 0:  76%|████████████████████████████████████████████████████████████████████████████████████████████████████████▍                                 | 367/485 [00:07<00:02, 46.26it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  76%|████████████████████████████████████████████████████████████████████████████████████████████████████████▋                                 | 368/485 [00:07<00:02, 46.26it/s]\u001B[A\n",
      "Validation DataLoader 0:  76%|████████████████████████████████████████████████████████████████████████████████████████████████████████▉                                 | 369/485 [00:07<00:02, 46.26it/s]\u001B[A\n",
      "Validation DataLoader 0:  76%|█████████████████████████████████████████████████████████████████████████████████████████████████████████▎                                | 370/485 [00:07<00:02, 46.27it/s]\u001B[A\n",
      "Validation DataLoader 0:  76%|█████████████████████████████████████████████████████████████████████████████████████████████████████████▌                                | 371/485 [00:08<00:02, 46.27it/s]\u001B[A\n",
      "Validation DataLoader 0:  77%|█████████████████████████████████████████████████████████████████████████████████████████████████████████▊                                | 372/485 [00:08<00:02, 46.28it/s]\u001B[A\n",
      "Validation DataLoader 0:  77%|██████████████████████████████████████████████████████████████████████████████████████████████████████████▏                               | 373/485 [00:08<00:02, 46.28it/s]\u001B[A\n",
      "Validation DataLoader 0:  77%|██████████████████████████████████████████████████████████████████████████████████████████████████████████▍                               | 374/485 [00:08<00:02, 46.29it/s]\u001B[A\n",
      "Validation DataLoader 0:  77%|██████████████████████████████████████████████████████████████████████████████████████████████████████████▋                               | 375/485 [00:08<00:02, 46.29it/s]\u001B[A\n",
      "Validation DataLoader 0:  78%|██████████████████████████████████████████████████████████████████████████████████████████████████████████▉                               | 376/485 [00:08<00:02, 46.30it/s]\u001B[A\n",
      "Validation DataLoader 0:  78%|███████████████████████████████████████████████████████████████████████████████████████████████████████████▎                              | 377/485 [00:08<00:02, 46.31it/s]\u001B[A\n",
      "Validation DataLoader 0:  78%|███████████████████████████████████████████████████████████████████████████████████████████████████████████▌                              | 378/485 [00:08<00:02, 46.31it/s]\u001B[A\n",
      "Validation DataLoader 0:  78%|███████████████████████████████████████████████████████████████████████████████████████████████████████████▊                              | 379/485 [00:08<00:02, 46.32it/s]\u001B[A\n",
      "Validation DataLoader 0:  78%|████████████████████████████████████████████████████████████████████████████████████████████████████████████                              | 380/485 [00:08<00:02, 46.32it/s]\u001B[A\n",
      "Validation DataLoader 0:  79%|████████████████████████████████████████████████████████████████████████████████████████████████████████████▍                             | 381/485 [00:08<00:02, 46.33it/s]\u001B[A\n",
      "Validation DataLoader 0:  79%|████████████████████████████████████████████████████████████████████████████████████████████████████████████▋                             | 382/485 [00:08<00:02, 46.33it/s]\u001B[A\n",
      "Validation DataLoader 0:  79%|████████████████████████████████████████████████████████████████████████████████████████████████████████████▉                             | 383/485 [00:08<00:02, 46.34it/s]\u001B[A\n",
      "Validation DataLoader 0:  79%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████▎                            | 384/485 [00:08<00:02, 46.34it/s]\u001B[A\n",
      "Validation DataLoader 0:  79%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████▌                            | 385/485 [00:08<00:02, 46.35it/s]\u001B[A\n",
      "Validation DataLoader 0:  80%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████▊                            | 386/485 [00:08<00:02, 46.36it/s]\u001B[A\n",
      "Validation DataLoader 0:  80%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████                            | 387/485 [00:08<00:02, 46.37it/s]\u001B[A\n",
      "Validation DataLoader 0:  80%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████▍                           | 388/485 [00:08<00:02, 46.38it/s]\u001B[A\n",
      "Validation DataLoader 0:  80%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████▋                           | 389/485 [00:08<00:02, 46.38it/s]\u001B[A\n",
      "Validation DataLoader 0:  80%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████▉                           | 390/485 [00:08<00:02, 46.39it/s]\u001B[A\n",
      "Validation DataLoader 0:  81%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████▎                          | 391/485 [00:08<00:02, 46.40it/s]\u001B[A\n",
      "Validation DataLoader 0:  81%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████▌                          | 392/485 [00:08<00:02, 46.40it/s]\u001B[A\n",
      "Validation DataLoader 0:  81%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████▊                          | 393/485 [00:08<00:01, 46.40it/s]\u001B[A\n",
      "Validation DataLoader 0:  81%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████                          | 394/485 [00:08<00:01, 46.41it/s]\u001B[A\n",
      "Validation DataLoader 0:  81%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍                         | 395/485 [00:08<00:01, 46.40it/s]\u001B[A\n",
      "Validation DataLoader 0:  82%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋                         | 396/485 [00:08<00:01, 46.41it/s]\u001B[A\n",
      "Validation DataLoader 0:  82%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉                         | 397/485 [00:08<00:01, 46.41it/s]\u001B[A\n",
      "Validation DataLoader 0:  82%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏                        | 398/485 [00:08<00:01, 46.42it/s]\u001B[A\n",
      "Validation DataLoader 0:  82%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌                        | 399/485 [00:08<00:01, 46.42it/s]\u001B[A\n",
      "Validation DataLoader 0:  82%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊                        | 400/485 [00:08<00:01, 46.42it/s]\u001B[A\n",
      "Validation DataLoader 0:  83%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████                        | 401/485 [00:08<00:01, 46.42it/s]\u001B[A\n",
      "Validation DataLoader 0:  83%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍                       | 402/485 [00:08<00:01, 46.43it/s]\u001B[A\n",
      "Validation DataLoader 0:  83%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋                       | 403/485 [00:08<00:01, 46.43it/s]\u001B[A\n",
      "Validation DataLoader 0:  83%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉                       | 404/485 [00:08<00:01, 46.43it/s]\u001B[A\n",
      "Validation DataLoader 0:  84%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏                      | 405/485 [00:08<00:01, 46.43it/s]\u001B[A\n",
      "Validation DataLoader 0:  84%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌                      | 406/485 [00:08<00:01, 46.44it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  84%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊                      | 407/485 [00:08<00:01, 46.44it/s]\u001B[A\n",
      "Validation DataLoader 0:  84%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████                      | 408/485 [00:08<00:01, 46.45it/s]\u001B[A\n",
      "Validation DataLoader 0:  84%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍                     | 409/485 [00:08<00:01, 46.45it/s]\u001B[A\n",
      "Validation DataLoader 0:  85%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋                     | 410/485 [00:08<00:01, 46.46it/s]\u001B[A\n",
      "Validation DataLoader 0:  85%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉                     | 411/485 [00:08<00:01, 46.46it/s]\u001B[A\n",
      "Validation DataLoader 0:  85%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏                    | 412/485 [00:08<00:01, 46.47it/s]\u001B[A\n",
      "Validation DataLoader 0:  85%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌                    | 413/485 [00:08<00:01, 46.47it/s]\u001B[A\n",
      "Validation DataLoader 0:  85%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊                    | 414/485 [00:08<00:01, 46.48it/s]\u001B[A\n",
      "Validation DataLoader 0:  86%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████                    | 415/485 [00:08<00:01, 46.48it/s]\u001B[A\n",
      "Validation DataLoader 0:  86%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎                   | 416/485 [00:08<00:01, 46.48it/s]\u001B[A\n",
      "Validation DataLoader 0:  86%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋                   | 417/485 [00:08<00:01, 46.49it/s]\u001B[A\n",
      "Validation DataLoader 0:  86%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉                   | 418/485 [00:08<00:01, 46.49it/s]\u001B[A\n",
      "Validation DataLoader 0:  86%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏                  | 419/485 [00:09<00:01, 46.50it/s]\u001B[A\n",
      "Validation DataLoader 0:  87%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌                  | 420/485 [00:09<00:01, 46.50it/s]\u001B[A\n",
      "Validation DataLoader 0:  87%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊                  | 421/485 [00:09<00:01, 46.51it/s]\u001B[A\n",
      "Validation DataLoader 0:  87%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████                  | 422/485 [00:09<00:01, 46.51it/s]\u001B[A\n",
      "Validation DataLoader 0:  87%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎                 | 423/485 [00:09<00:01, 46.52it/s]\u001B[A\n",
      "Validation DataLoader 0:  87%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋                 | 424/485 [00:09<00:01, 46.52it/s]\u001B[A\n",
      "Validation DataLoader 0:  88%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉                 | 425/485 [00:09<00:01, 46.53it/s]\u001B[A\n",
      "Validation DataLoader 0:  88%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏                | 426/485 [00:09<00:01, 46.53it/s]\u001B[A\n",
      "Validation DataLoader 0:  88%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍                | 427/485 [00:09<00:01, 46.54it/s]\u001B[A\n",
      "Validation DataLoader 0:  88%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊                | 428/485 [00:09<00:01, 46.54it/s]\u001B[A\n",
      "Validation DataLoader 0:  88%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████                | 429/485 [00:09<00:01, 46.55it/s]\u001B[A\n",
      "Validation DataLoader 0:  89%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎               | 430/485 [00:09<00:01, 46.55it/s]\u001B[A\n",
      "Validation DataLoader 0:  89%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋               | 431/485 [00:09<00:01, 46.56it/s]\u001B[A\n",
      "Validation DataLoader 0:  89%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉               | 432/485 [00:09<00:01, 46.56it/s]\u001B[A\n",
      "Validation DataLoader 0:  89%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏              | 433/485 [00:09<00:01, 46.56it/s]\u001B[A\n",
      "Validation DataLoader 0:  89%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍              | 434/485 [00:09<00:01, 46.57it/s]\u001B[A\n",
      "Validation DataLoader 0:  90%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊              | 435/485 [00:09<00:01, 46.57it/s]\u001B[A\n",
      "Validation DataLoader 0:  90%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████              | 436/485 [00:09<00:01, 46.58it/s]\u001B[A\n",
      "Validation DataLoader 0:  90%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎             | 437/485 [00:09<00:01, 46.58it/s]\u001B[A\n",
      "Validation DataLoader 0:  90%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋             | 438/485 [00:09<00:01, 46.58it/s]\u001B[A\n",
      "Validation DataLoader 0:  91%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉             | 439/485 [00:09<00:00, 46.59it/s]\u001B[A\n",
      "Validation DataLoader 0:  91%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏            | 440/485 [00:09<00:00, 46.59it/s]\u001B[A\n",
      "Validation DataLoader 0:  91%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍            | 441/485 [00:09<00:00, 46.59it/s]\u001B[A\n",
      "Validation DataLoader 0:  91%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊            | 442/485 [00:09<00:00, 46.60it/s]\u001B[A\n",
      "Validation DataLoader 0:  91%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████            | 443/485 [00:09<00:00, 46.61it/s]\u001B[A\n",
      "Validation DataLoader 0:  92%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎           | 444/485 [00:09<00:00, 46.62it/s]\u001B[A\n",
      "Validation DataLoader 0:  92%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌           | 445/485 [00:09<00:00, 46.63it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  92%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉           | 446/485 [00:09<00:00, 46.62it/s]\u001B[A\n",
      "Validation DataLoader 0:  92%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏          | 447/485 [00:09<00:00, 46.63it/s]\u001B[A\n",
      "Validation DataLoader 0:  92%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍          | 448/485 [00:09<00:00, 46.63it/s]\u001B[A\n",
      "Validation DataLoader 0:  93%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊          | 449/485 [00:09<00:00, 46.63it/s]\u001B[A\n",
      "Validation DataLoader 0:  93%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████          | 450/485 [00:09<00:00, 46.64it/s]\u001B[A\n",
      "Validation DataLoader 0:  93%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎         | 451/485 [00:09<00:00, 46.64it/s]\u001B[A\n",
      "Validation DataLoader 0:  93%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌         | 452/485 [00:09<00:00, 46.64it/s]\u001B[A\n",
      "Validation DataLoader 0:  93%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉         | 453/485 [00:09<00:00, 46.65it/s]\u001B[A\n",
      "Validation DataLoader 0:  94%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏        | 454/485 [00:09<00:00, 46.65it/s]\u001B[A\n",
      "Validation DataLoader 0:  94%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍        | 455/485 [00:09<00:00, 46.65it/s]\u001B[A\n",
      "Validation DataLoader 0:  94%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋        | 456/485 [00:09<00:00, 46.66it/s]\u001B[A\n",
      "Validation DataLoader 0:  94%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████        | 457/485 [00:09<00:00, 46.66it/s]\u001B[A\n",
      "Validation DataLoader 0:  94%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎       | 458/485 [00:09<00:00, 46.66it/s]\u001B[A\n",
      "Validation DataLoader 0:  95%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌       | 459/485 [00:09<00:00, 46.67it/s]\u001B[A\n",
      "Validation DataLoader 0:  95%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉       | 460/485 [00:09<00:00, 46.67it/s]\u001B[A\n",
      "Validation DataLoader 0:  95%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏      | 461/485 [00:09<00:00, 46.68it/s]\u001B[A\n",
      "Validation DataLoader 0:  95%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍      | 462/485 [00:09<00:00, 46.68it/s]\u001B[A\n",
      "Validation DataLoader 0:  95%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋      | 463/485 [00:09<00:00, 46.68it/s]\u001B[A\n",
      "Validation DataLoader 0:  96%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████      | 464/485 [00:09<00:00, 46.68it/s]\u001B[A\n",
      "Validation DataLoader 0:  96%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎     | 465/485 [00:09<00:00, 46.69it/s]\u001B[A\n",
      "Validation DataLoader 0:  96%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌     | 466/485 [00:09<00:00, 46.69it/s]\u001B[A\n",
      "Validation DataLoader 0:  96%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉     | 467/485 [00:10<00:00, 46.70it/s]\u001B[A\n",
      "Validation DataLoader 0:  96%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏    | 468/485 [00:10<00:00, 46.69it/s]\u001B[A\n",
      "Validation DataLoader 0:  97%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍    | 469/485 [00:10<00:00, 46.70it/s]\u001B[A\n",
      "Validation DataLoader 0:  97%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋    | 470/485 [00:10<00:00, 46.70it/s]\u001B[A\n",
      "Validation DataLoader 0:  97%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████    | 471/485 [00:10<00:00, 46.70it/s]\u001B[A\n",
      "Validation DataLoader 0:  97%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎   | 472/485 [00:10<00:00, 46.70it/s]\u001B[A\n",
      "Validation DataLoader 0:  98%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌   | 473/485 [00:10<00:00, 46.70it/s]\u001B[A\n",
      "Validation DataLoader 0:  98%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊   | 474/485 [00:10<00:00, 46.71it/s]\u001B[A\n",
      "Validation DataLoader 0:  98%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏  | 475/485 [00:10<00:00, 46.71it/s]\u001B[A\n",
      "Validation DataLoader 0:  98%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍  | 476/485 [00:10<00:00, 46.70it/s]\u001B[A\n",
      "Validation DataLoader 0:  98%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋  | 477/485 [00:10<00:00, 46.70it/s]\u001B[A\n",
      "Validation DataLoader 0:  99%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████  | 478/485 [00:10<00:00, 46.70it/s]\u001B[A\n",
      "Validation DataLoader 0:  99%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎ | 479/485 [00:10<00:00, 46.71it/s]\u001B[A\n",
      "Validation DataLoader 0:  99%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌ | 480/485 [00:10<00:00, 46.72it/s]\u001B[A\n",
      "Validation DataLoader 0:  99%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊ | 481/485 [00:10<00:00, 46.72it/s]\u001B[A\n",
      "Validation DataLoader 0:  99%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏| 482/485 [00:10<00:00, 46.72it/s]\u001B[A\n",
      "Validation DataLoader 0: 100%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍| 483/485 [00:10<00:00, 46.73it/s]\u001B[A\n",
      "Validation DataLoader 0: 100%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋| 484/485 [00:10<00:00, 46.73it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Epoch 1: 100%|███████████████████████████████████████████████████████████████████████████████████████████████████████████| 1453/1453 [02:58<00:00,  8.16it/s, v_num=103, train_loss=2.040, val_loss=1.250]\u001B[A\n",
      "Epoch 2: 100%|███████████████████████████████████████████████████████████████████████████████████████████████████████████| 1453/1453 [02:51<00:00,  8.45it/s, v_num=103, train_loss=1.900, val_loss=1.250]\u001B[A\n",
      "Validation: 0it [00:00, ?it/s]\u001B[A\n",
      "Validation:   0%|                                                                                                                                                                 | 0/485 [00:00<?, ?it/s]\u001B[A\n",
      "Validation DataLoader 0:   0%|                                                                                                                                                    | 0/485 [00:00<?, ?it/s]\u001B[A\n",
      "Validation DataLoader 0:   0%|▎                                                                                                                                           | 1/485 [00:00<00:11, 42.89it/s]\u001B[A\n",
      "Validation DataLoader 0:   0%|▌                                                                                                                                           | 2/485 [00:00<00:10, 46.19it/s]\u001B[A\n",
      "Validation DataLoader 0:   1%|▊                                                                                                                                           | 3/485 [00:00<00:10, 47.51it/s]\u001B[A\n",
      "Validation DataLoader 0:   1%|█▏                                                                                                                                          | 4/485 [00:00<00:10, 47.78it/s]\u001B[A\n",
      "Validation DataLoader 0:   1%|█▍                                                                                                                                          | 5/485 [00:00<00:09, 48.23it/s]\u001B[A\n",
      "Validation DataLoader 0:   1%|█▋                                                                                                                                          | 6/485 [00:00<00:09, 48.56it/s]\u001B[A\n",
      "Validation DataLoader 0:   1%|██                                                                                                                                          | 7/485 [00:00<00:09, 48.79it/s]\u001B[A\n",
      "Validation DataLoader 0:   2%|██▎                                                                                                                                         | 8/485 [00:00<00:09, 48.81it/s]\u001B[A\n",
      "Validation DataLoader 0:   2%|██▌                                                                                                                                         | 9/485 [00:00<00:09, 48.81it/s]\u001B[A\n",
      "Validation DataLoader 0:   2%|██▊                                                                                                                                        | 10/485 [00:00<00:09, 48.76it/s]\u001B[A\n",
      "Validation DataLoader 0:   2%|███▏                                                                                                                                       | 11/485 [00:00<00:09, 48.41it/s]\u001B[A\n",
      "Validation DataLoader 0:   2%|███▍                                                                                                                                       | 12/485 [00:00<00:09, 48.36it/s]\u001B[A\n",
      "Validation DataLoader 0:   3%|███▋                                                                                                                                       | 13/485 [00:00<00:09, 48.28it/s]\u001B[A\n",
      "Validation DataLoader 0:   3%|████                                                                                                                                       | 14/485 [00:00<00:09, 48.27it/s]\u001B[A\n",
      "Validation DataLoader 0:   3%|████▎                                                                                                                                      | 15/485 [00:00<00:09, 47.94it/s]\u001B[A\n",
      "Validation DataLoader 0:   3%|████▌                                                                                                                                      | 16/485 [00:00<00:09, 47.61it/s]\u001B[A\n",
      "Validation DataLoader 0:   4%|████▊                                                                                                                                      | 17/485 [00:00<00:09, 47.20it/s]\u001B[A\n",
      "Validation DataLoader 0:   4%|█████▏                                                                                                                                     | 18/485 [00:00<00:09, 47.24it/s]\u001B[A\n",
      "Validation DataLoader 0:   4%|█████▍                                                                                                                                     | 19/485 [00:00<00:09, 47.19it/s]\u001B[A\n",
      "Validation DataLoader 0:   4%|█████▋                                                                                                                                     | 20/485 [00:00<00:09, 47.23it/s]\u001B[A\n",
      "Validation DataLoader 0:   4%|██████                                                                                                                                     | 21/485 [00:00<00:09, 47.09it/s]\u001B[A\n",
      "Validation DataLoader 0:   5%|██████▎                                                                                                                                    | 22/485 [00:00<00:09, 47.03it/s]\u001B[A\n",
      "Validation DataLoader 0:   5%|██████▌                                                                                                                                    | 23/485 [00:00<00:09, 47.08it/s]\u001B[A\n",
      "Validation DataLoader 0:   5%|██████▉                                                                                                                                    | 24/485 [00:00<00:09, 47.21it/s]\u001B[A\n",
      "Validation DataLoader 0:   5%|███████▏                                                                                                                                   | 25/485 [00:00<00:09, 47.30it/s]\u001B[A\n",
      "Validation DataLoader 0:   5%|███████▍                                                                                                                                   | 26/485 [00:00<00:09, 47.35it/s]\u001B[A\n",
      "Validation DataLoader 0:   6%|███████▋                                                                                                                                   | 27/485 [00:00<00:09, 47.42it/s]\u001B[A\n",
      "Validation DataLoader 0:   6%|████████                                                                                                                                   | 28/485 [00:00<00:09, 47.53it/s]\u001B[A\n",
      "Validation DataLoader 0:   6%|████████▎                                                                                                                                  | 29/485 [00:00<00:09, 47.56it/s]\u001B[A\n",
      "Validation DataLoader 0:   6%|████████▌                                                                                                                                  | 30/485 [00:00<00:09, 47.65it/s]\u001B[A\n",
      "Validation DataLoader 0:   6%|████████▉                                                                                                                                  | 31/485 [00:00<00:09, 47.64it/s]\u001B[A\n",
      "Validation DataLoader 0:   7%|█████████▏                                                                                                                                 | 32/485 [00:00<00:09, 47.73it/s]\u001B[A\n",
      "Validation DataLoader 0:   7%|█████████▍                                                                                                                                 | 33/485 [00:00<00:09, 47.80it/s]\u001B[A\n",
      "Validation DataLoader 0:   7%|█████████▋                                                                                                                                 | 34/485 [00:00<00:09, 47.84it/s]\u001B[A\n",
      "Validation DataLoader 0:   7%|██████████                                                                                                                                 | 35/485 [00:00<00:09, 47.88it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:   7%|██████████▎                                                                                                                                | 36/485 [00:00<00:09, 47.94it/s]\u001B[A\n",
      "Validation DataLoader 0:   8%|██████████▌                                                                                                                                | 37/485 [00:00<00:09, 47.98it/s]\u001B[A\n",
      "Validation DataLoader 0:   8%|██████████▉                                                                                                                                | 38/485 [00:00<00:09, 48.05it/s]\u001B[A\n",
      "Validation DataLoader 0:   8%|███████████▏                                                                                                                               | 39/485 [00:00<00:09, 48.12it/s]\u001B[A\n",
      "Validation DataLoader 0:   8%|███████████▍                                                                                                                               | 40/485 [00:00<00:09, 48.19it/s]\u001B[A\n",
      "Validation DataLoader 0:   8%|███████████▊                                                                                                                               | 41/485 [00:00<00:09, 48.23it/s]\u001B[A\n",
      "Validation DataLoader 0:   9%|████████████                                                                                                                               | 42/485 [00:00<00:09, 48.29it/s]\u001B[A\n",
      "Validation DataLoader 0:   9%|████████████▎                                                                                                                              | 43/485 [00:00<00:09, 48.37it/s]\u001B[A\n",
      "Validation DataLoader 0:   9%|████████████▌                                                                                                                              | 44/485 [00:00<00:09, 48.44it/s]\u001B[A\n",
      "Validation DataLoader 0:   9%|████████████▉                                                                                                                              | 45/485 [00:00<00:09, 48.50it/s]\u001B[A\n",
      "Validation DataLoader 0:   9%|█████████████▏                                                                                                                             | 46/485 [00:00<00:09, 48.53it/s]\u001B[A\n",
      "Validation DataLoader 0:  10%|█████████████▍                                                                                                                             | 47/485 [00:00<00:09, 48.50it/s]\u001B[A\n",
      "Validation DataLoader 0:  10%|█████████████▊                                                                                                                             | 48/485 [00:00<00:09, 48.48it/s]\u001B[A\n",
      "Validation DataLoader 0:  10%|██████████████                                                                                                                             | 49/485 [00:01<00:08, 48.55it/s]\u001B[A\n",
      "Validation DataLoader 0:  10%|██████████████▎                                                                                                                            | 50/485 [00:01<00:08, 48.57it/s]\u001B[A\n",
      "Validation DataLoader 0:  11%|██████████████▌                                                                                                                            | 51/485 [00:01<00:08, 48.59it/s]\u001B[A\n",
      "Validation DataLoader 0:  11%|██████████████▉                                                                                                                            | 52/485 [00:01<00:08, 48.59it/s]\u001B[A\n",
      "Validation DataLoader 0:  11%|███████████████▏                                                                                                                           | 53/485 [00:01<00:08, 48.63it/s]\u001B[A\n",
      "Validation DataLoader 0:  11%|███████████████▍                                                                                                                           | 54/485 [00:01<00:08, 48.64it/s]\u001B[A\n",
      "Validation DataLoader 0:  11%|███████████████▊                                                                                                                           | 55/485 [00:01<00:08, 48.65it/s]\u001B[A\n",
      "Validation DataLoader 0:  12%|████████████████                                                                                                                           | 56/485 [00:01<00:08, 48.60it/s]\u001B[A\n",
      "Validation DataLoader 0:  12%|████████████████▎                                                                                                                          | 57/485 [00:01<00:08, 48.65it/s]\u001B[A\n",
      "Validation DataLoader 0:  12%|████████████████▌                                                                                                                          | 58/485 [00:01<00:08, 48.67it/s]\u001B[A\n",
      "Validation DataLoader 0:  12%|████████████████▉                                                                                                                          | 59/485 [00:01<00:08, 48.72it/s]\u001B[A\n",
      "Validation DataLoader 0:  12%|█████████████████▏                                                                                                                         | 60/485 [00:01<00:08, 48.75it/s]\u001B[A\n",
      "Validation DataLoader 0:  13%|█████████████████▍                                                                                                                         | 61/485 [00:01<00:08, 48.79it/s]\u001B[A\n",
      "Validation DataLoader 0:  13%|█████████████████▊                                                                                                                         | 62/485 [00:01<00:08, 48.81it/s]\u001B[A\n",
      "Validation DataLoader 0:  13%|██████████████████                                                                                                                         | 63/485 [00:01<00:08, 48.84it/s]\u001B[A\n",
      "Validation DataLoader 0:  13%|██████████████████▎                                                                                                                        | 64/485 [00:01<00:08, 48.87it/s]\u001B[A\n",
      "Validation DataLoader 0:  13%|██████████████████▋                                                                                                                        | 65/485 [00:01<00:08, 48.87it/s]\u001B[A\n",
      "Validation DataLoader 0:  14%|██████████████████▉                                                                                                                        | 66/485 [00:01<00:08, 48.84it/s]\u001B[A\n",
      "Validation DataLoader 0:  14%|███████████████████▏                                                                                                                       | 67/485 [00:01<00:08, 48.80it/s]\u001B[A\n",
      "Validation DataLoader 0:  14%|███████████████████▍                                                                                                                       | 68/485 [00:01<00:08, 48.77it/s]\u001B[A\n",
      "Validation DataLoader 0:  14%|███████████████████▊                                                                                                                       | 69/485 [00:01<00:08, 48.72it/s]\u001B[A\n",
      "Validation DataLoader 0:  14%|████████████████████                                                                                                                       | 70/485 [00:01<00:08, 48.67it/s]\u001B[A\n",
      "Validation DataLoader 0:  15%|████████████████████▎                                                                                                                      | 71/485 [00:01<00:08, 48.62it/s]\u001B[A\n",
      "Validation DataLoader 0:  15%|████████████████████▋                                                                                                                      | 72/485 [00:01<00:08, 48.57it/s]\u001B[A\n",
      "Validation DataLoader 0:  15%|████████████████████▉                                                                                                                      | 73/485 [00:01<00:08, 48.56it/s]\u001B[A\n",
      "Validation DataLoader 0:  15%|█████████████████████▏                                                                                                                     | 74/485 [00:01<00:08, 48.60it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  15%|█████████████████████▍                                                                                                                     | 75/485 [00:01<00:08, 48.61it/s]\u001B[A\n",
      "Validation DataLoader 0:  16%|█████████████████████▊                                                                                                                     | 76/485 [00:01<00:08, 48.59it/s]\u001B[A\n",
      "Validation DataLoader 0:  16%|██████████████████████                                                                                                                     | 77/485 [00:01<00:08, 48.60it/s]\u001B[A\n",
      "Validation DataLoader 0:  16%|██████████████████████▎                                                                                                                    | 78/485 [00:01<00:08, 48.61it/s]\u001B[A\n",
      "Validation DataLoader 0:  16%|██████████████████████▋                                                                                                                    | 79/485 [00:01<00:08, 48.65it/s]\u001B[A\n",
      "Validation DataLoader 0:  16%|██████████████████████▉                                                                                                                    | 80/485 [00:01<00:08, 48.66it/s]\u001B[A\n",
      "Validation DataLoader 0:  17%|███████████████████████▏                                                                                                                   | 81/485 [00:01<00:08, 48.66it/s]\u001B[A\n",
      "Validation DataLoader 0:  17%|███████████████████████▌                                                                                                                   | 82/485 [00:01<00:08, 48.67it/s]\u001B[A\n",
      "Validation DataLoader 0:  17%|███████████████████████▊                                                                                                                   | 83/485 [00:01<00:08, 48.68it/s]\u001B[A\n",
      "Validation DataLoader 0:  17%|████████████████████████                                                                                                                   | 84/485 [00:01<00:08, 48.68it/s]\u001B[A\n",
      "Validation DataLoader 0:  18%|████████████████████████▎                                                                                                                  | 85/485 [00:01<00:08, 48.70it/s]\u001B[A\n",
      "Validation DataLoader 0:  18%|████████████████████████▋                                                                                                                  | 86/485 [00:01<00:08, 48.74it/s]\u001B[A\n",
      "Validation DataLoader 0:  18%|████████████████████████▉                                                                                                                  | 87/485 [00:01<00:08, 48.73it/s]\u001B[A\n",
      "Validation DataLoader 0:  18%|█████████████████████████▏                                                                                                                 | 88/485 [00:01<00:08, 48.76it/s]\u001B[A\n",
      "Validation DataLoader 0:  18%|█████████████████████████▌                                                                                                                 | 89/485 [00:01<00:08, 48.77it/s]\u001B[A\n",
      "Validation DataLoader 0:  19%|█████████████████████████▊                                                                                                                 | 90/485 [00:01<00:08, 48.80it/s]\u001B[A\n",
      "Validation DataLoader 0:  19%|██████████████████████████                                                                                                                 | 91/485 [00:01<00:08, 48.82it/s]\u001B[A\n",
      "Validation DataLoader 0:  19%|██████████████████████████▎                                                                                                                | 92/485 [00:01<00:08, 48.82it/s]\u001B[A\n",
      "Validation DataLoader 0:  19%|██████████████████████████▋                                                                                                                | 93/485 [00:01<00:08, 48.82it/s]\u001B[A\n",
      "Validation DataLoader 0:  19%|██████████████████████████▉                                                                                                                | 94/485 [00:01<00:08, 48.81it/s]\u001B[A\n",
      "Validation DataLoader 0:  20%|███████████████████████████▏                                                                                                               | 95/485 [00:01<00:07, 48.83it/s]\u001B[A\n",
      "Validation DataLoader 0:  20%|███████████████████████████▌                                                                                                               | 96/485 [00:01<00:07, 48.82it/s]\u001B[A\n",
      "Validation DataLoader 0:  20%|███████████████████████████▊                                                                                                               | 97/485 [00:01<00:07, 48.83it/s]\u001B[A\n",
      "Validation DataLoader 0:  20%|████████████████████████████                                                                                                               | 98/485 [00:02<00:07, 48.83it/s]\u001B[A\n",
      "Validation DataLoader 0:  20%|████████████████████████████▎                                                                                                              | 99/485 [00:02<00:07, 48.82it/s]\u001B[A\n",
      "Validation DataLoader 0:  21%|████████████████████████████▍                                                                                                             | 100/485 [00:02<00:07, 48.80it/s]\u001B[A\n",
      "Validation DataLoader 0:  21%|████████████████████████████▋                                                                                                             | 101/485 [00:02<00:07, 48.80it/s]\u001B[A\n",
      "Validation DataLoader 0:  21%|█████████████████████████████                                                                                                             | 102/485 [00:02<00:07, 48.80it/s]\u001B[A\n",
      "Validation DataLoader 0:  21%|█████████████████████████████▎                                                                                                            | 103/485 [00:02<00:07, 48.80it/s]\u001B[A\n",
      "Validation DataLoader 0:  21%|█████████████████████████████▌                                                                                                            | 104/485 [00:02<00:07, 48.81it/s]\u001B[A\n",
      "Validation DataLoader 0:  22%|█████████████████████████████▉                                                                                                            | 105/485 [00:02<00:07, 48.80it/s]\u001B[A\n",
      "Validation DataLoader 0:  22%|██████████████████████████████▏                                                                                                           | 106/485 [00:02<00:07, 48.81it/s]\u001B[A\n",
      "Validation DataLoader 0:  22%|██████████████████████████████▍                                                                                                           | 107/485 [00:02<00:07, 48.82it/s]\u001B[A\n",
      "Validation DataLoader 0:  22%|██████████████████████████████▋                                                                                                           | 108/485 [00:02<00:07, 48.82it/s]\u001B[A\n",
      "Validation DataLoader 0:  22%|███████████████████████████████                                                                                                           | 109/485 [00:02<00:07, 48.80it/s]\u001B[A\n",
      "Validation DataLoader 0:  23%|███████████████████████████████▎                                                                                                          | 110/485 [00:02<00:07, 48.79it/s]\u001B[A\n",
      "Validation DataLoader 0:  23%|███████████████████████████████▌                                                                                                          | 111/485 [00:02<00:07, 48.78it/s]\u001B[A\n",
      "Validation DataLoader 0:  23%|███████████████████████████████▊                                                                                                          | 112/485 [00:02<00:07, 48.80it/s]\u001B[A\n",
      "Validation DataLoader 0:  23%|████████████████████████████████▏                                                                                                         | 113/485 [00:02<00:07, 48.81it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  24%|████████████████████████████████▍                                                                                                         | 114/485 [00:02<00:07, 48.78it/s]\u001B[A\n",
      "Validation DataLoader 0:  24%|████████████████████████████████▋                                                                                                         | 115/485 [00:02<00:07, 48.75it/s]\u001B[A\n",
      "Validation DataLoader 0:  24%|█████████████████████████████████                                                                                                         | 116/485 [00:02<00:07, 48.76it/s]\u001B[A\n",
      "Validation DataLoader 0:  24%|█████████████████████████████████▎                                                                                                        | 117/485 [00:02<00:07, 48.77it/s]\u001B[A\n",
      "Validation DataLoader 0:  24%|█████████████████████████████████▌                                                                                                        | 118/485 [00:02<00:07, 48.79it/s]\u001B[A\n",
      "Validation DataLoader 0:  25%|█████████████████████████████████▊                                                                                                        | 119/485 [00:02<00:07, 48.79it/s]\u001B[A\n",
      "Validation DataLoader 0:  25%|██████████████████████████████████▏                                                                                                       | 120/485 [00:02<00:07, 48.80it/s]\u001B[A\n",
      "Validation DataLoader 0:  25%|██████████████████████████████████▍                                                                                                       | 121/485 [00:02<00:07, 48.79it/s]\u001B[A\n",
      "Validation DataLoader 0:  25%|██████████████████████████████████▋                                                                                                       | 122/485 [00:02<00:07, 48.78it/s]\u001B[A\n",
      "Validation DataLoader 0:  25%|██████████████████████████████████▉                                                                                                       | 123/485 [00:02<00:07, 48.80it/s]\u001B[A\n",
      "Validation DataLoader 0:  26%|███████████████████████████████████▎                                                                                                      | 124/485 [00:02<00:07, 48.81it/s]\u001B[A\n",
      "Validation DataLoader 0:  26%|███████████████████████████████████▌                                                                                                      | 125/485 [00:02<00:07, 48.80it/s]\u001B[A\n",
      "Validation DataLoader 0:  26%|███████████████████████████████████▊                                                                                                      | 126/485 [00:02<00:07, 48.77it/s]\u001B[A\n",
      "Validation DataLoader 0:  26%|████████████████████████████████████▏                                                                                                     | 127/485 [00:02<00:07, 48.77it/s]\u001B[A\n",
      "Validation DataLoader 0:  26%|████████████████████████████████████▍                                                                                                     | 128/485 [00:02<00:07, 48.76it/s]\u001B[A\n",
      "Validation DataLoader 0:  27%|████████████████████████████████████▋                                                                                                     | 129/485 [00:02<00:07, 48.78it/s]\u001B[A\n",
      "Validation DataLoader 0:  27%|████████████████████████████████████▉                                                                                                     | 130/485 [00:02<00:07, 48.76it/s]\u001B[A\n",
      "Validation DataLoader 0:  27%|█████████████████████████████████████▎                                                                                                    | 131/485 [00:02<00:07, 48.76it/s]\u001B[A\n",
      "Validation DataLoader 0:  27%|█████████████████████████████████████▌                                                                                                    | 132/485 [00:02<00:07, 48.75it/s]\u001B[A\n",
      "Validation DataLoader 0:  27%|█████████████████████████████████████▊                                                                                                    | 133/485 [00:02<00:07, 48.74it/s]\u001B[A\n",
      "Validation DataLoader 0:  28%|██████████████████████████████████████▏                                                                                                   | 134/485 [00:02<00:07, 48.74it/s]\u001B[A\n",
      "Validation DataLoader 0:  28%|██████████████████████████████████████▍                                                                                                   | 135/485 [00:02<00:07, 48.74it/s]\u001B[A\n",
      "Validation DataLoader 0:  28%|██████████████████████████████████████▋                                                                                                   | 136/485 [00:02<00:07, 48.72it/s]\u001B[A\n",
      "Validation DataLoader 0:  28%|██████████████████████████████████████▉                                                                                                   | 137/485 [00:02<00:07, 48.73it/s]\u001B[A\n",
      "Validation DataLoader 0:  28%|███████████████████████████████████████▎                                                                                                  | 138/485 [00:02<00:07, 48.74it/s]\u001B[A\n",
      "Validation DataLoader 0:  29%|███████████████████████████████████████▌                                                                                                  | 139/485 [00:02<00:07, 48.76it/s]\u001B[A\n",
      "Validation DataLoader 0:  29%|███████████████████████████████████████▊                                                                                                  | 140/485 [00:02<00:07, 48.77it/s]\u001B[A\n",
      "Validation DataLoader 0:  29%|████████████████████████████████████████                                                                                                  | 141/485 [00:02<00:07, 48.77it/s]\u001B[A\n",
      "Validation DataLoader 0:  29%|████████████████████████████████████████▍                                                                                                 | 142/485 [00:02<00:07, 48.77it/s]\u001B[A\n",
      "Validation DataLoader 0:  29%|████████████████████████████████████████▋                                                                                                 | 143/485 [00:02<00:07, 48.64it/s]\u001B[A\n",
      "Validation DataLoader 0:  30%|████████████████████████████████████████▉                                                                                                 | 144/485 [00:02<00:07, 48.60it/s]\u001B[A\n",
      "Validation DataLoader 0:  30%|█████████████████████████████████████████▎                                                                                                | 145/485 [00:02<00:07, 48.46it/s]\u001B[A\n",
      "Validation DataLoader 0:  30%|█████████████████████████████████████████▌                                                                                                | 146/485 [00:03<00:06, 48.44it/s]\u001B[A\n",
      "Validation DataLoader 0:  30%|█████████████████████████████████████████▊                                                                                                | 147/485 [00:03<00:06, 48.43it/s]\u001B[A\n",
      "Validation DataLoader 0:  31%|██████████████████████████████████████████                                                                                                | 148/485 [00:03<00:06, 48.43it/s]\u001B[A\n",
      "Validation DataLoader 0:  31%|██████████████████████████████████████████▍                                                                                               | 149/485 [00:03<00:06, 48.43it/s]\u001B[A\n",
      "Validation DataLoader 0:  31%|██████████████████████████████████████████▋                                                                                               | 150/485 [00:03<00:06, 48.42it/s]\u001B[A\n",
      "Validation DataLoader 0:  31%|██████████████████████████████████████████▉                                                                                               | 151/485 [00:03<00:06, 48.40it/s]\u001B[A\n",
      "Validation DataLoader 0:  31%|███████████████████████████████████████████▏                                                                                              | 152/485 [00:03<00:06, 48.38it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  32%|███████████████████████████████████████████▌                                                                                              | 153/485 [00:03<00:06, 48.38it/s]\u001B[A\n",
      "Validation DataLoader 0:  32%|███████████████████████████████████████████▊                                                                                              | 154/485 [00:03<00:06, 48.39it/s]\u001B[A\n",
      "Validation DataLoader 0:  32%|████████████████████████████████████████████                                                                                              | 155/485 [00:03<00:06, 48.38it/s]\u001B[A\n",
      "Validation DataLoader 0:  32%|████████████████████████████████████████████▍                                                                                             | 156/485 [00:03<00:06, 48.39it/s]\u001B[A\n",
      "Validation DataLoader 0:  32%|████████████████████████████████████████████▋                                                                                             | 157/485 [00:03<00:06, 48.40it/s]\u001B[A\n",
      "Validation DataLoader 0:  33%|████████████████████████████████████████████▉                                                                                             | 158/485 [00:03<00:06, 48.41it/s]\u001B[A\n",
      "Validation DataLoader 0:  33%|█████████████████████████████████████████████▏                                                                                            | 159/485 [00:03<00:06, 48.40it/s]\u001B[A\n",
      "Validation DataLoader 0:  33%|█████████████████████████████████████████████▌                                                                                            | 160/485 [00:03<00:06, 48.38it/s]\u001B[A\n",
      "Validation DataLoader 0:  33%|█████████████████████████████████████████████▊                                                                                            | 161/485 [00:03<00:06, 48.36it/s]\u001B[A\n",
      "Validation DataLoader 0:  33%|██████████████████████████████████████████████                                                                                            | 162/485 [00:03<00:06, 48.34it/s]\u001B[A\n",
      "Validation DataLoader 0:  34%|██████████████████████████████████████████████▍                                                                                           | 163/485 [00:03<00:06, 48.34it/s]\u001B[A\n",
      "Validation DataLoader 0:  34%|██████████████████████████████████████████████▋                                                                                           | 164/485 [00:03<00:06, 48.35it/s]\u001B[A\n",
      "Validation DataLoader 0:  34%|██████████████████████████████████████████████▉                                                                                           | 165/485 [00:03<00:06, 48.36it/s]\u001B[A\n",
      "Validation DataLoader 0:  34%|███████████████████████████████████████████████▏                                                                                          | 166/485 [00:03<00:06, 48.36it/s]\u001B[A\n",
      "Validation DataLoader 0:  34%|███████████████████████████████████████████████▌                                                                                          | 167/485 [00:03<00:06, 48.34it/s]\u001B[A\n",
      "Validation DataLoader 0:  35%|███████████████████████████████████████████████▊                                                                                          | 168/485 [00:03<00:06, 48.32it/s]\u001B[A\n",
      "Validation DataLoader 0:  35%|████████████████████████████████████████████████                                                                                          | 169/485 [00:03<00:06, 48.33it/s]\u001B[A\n",
      "Validation DataLoader 0:  35%|████████████████████████████████████████████████▎                                                                                         | 170/485 [00:03<00:06, 48.36it/s]\u001B[A\n",
      "Validation DataLoader 0:  35%|████████████████████████████████████████████████▋                                                                                         | 171/485 [00:03<00:06, 48.35it/s]\u001B[A\n",
      "Validation DataLoader 0:  35%|████████████████████████████████████████████████▉                                                                                         | 172/485 [00:03<00:06, 48.36it/s]\u001B[A\n",
      "Validation DataLoader 0:  36%|█████████████████████████████████████████████████▏                                                                                        | 173/485 [00:03<00:06, 48.36it/s]\u001B[A\n",
      "Validation DataLoader 0:  36%|█████████████████████████████████████████████████▌                                                                                        | 174/485 [00:03<00:06, 48.36it/s]\u001B[A\n",
      "Validation DataLoader 0:  36%|█████████████████████████████████████████████████▊                                                                                        | 175/485 [00:03<00:06, 48.35it/s]\u001B[A\n",
      "Validation DataLoader 0:  36%|██████████████████████████████████████████████████                                                                                        | 176/485 [00:03<00:06, 48.36it/s]\u001B[A\n",
      "Validation DataLoader 0:  36%|██████████████████████████████████████████████████▎                                                                                       | 177/485 [00:03<00:06, 48.37it/s]\u001B[A\n",
      "Validation DataLoader 0:  37%|██████████████████████████████████████████████████▋                                                                                       | 178/485 [00:03<00:06, 48.37it/s]\u001B[A\n",
      "Validation DataLoader 0:  37%|██████████████████████████████████████████████████▉                                                                                       | 179/485 [00:03<00:06, 48.37it/s]\u001B[A\n",
      "Validation DataLoader 0:  37%|███████████████████████████████████████████████████▏                                                                                      | 180/485 [00:03<00:06, 48.37it/s]\u001B[A\n",
      "Validation DataLoader 0:  37%|███████████████████████████████████████████████████▌                                                                                      | 181/485 [00:03<00:06, 48.36it/s]\u001B[A\n",
      "Validation DataLoader 0:  38%|███████████████████████████████████████████████████▊                                                                                      | 182/485 [00:03<00:06, 48.37it/s]\u001B[A\n",
      "Validation DataLoader 0:  38%|████████████████████████████████████████████████████                                                                                      | 183/485 [00:03<00:06, 48.38it/s]\u001B[A\n",
      "Validation DataLoader 0:  38%|████████████████████████████████████████████████████▎                                                                                     | 184/485 [00:03<00:06, 48.37it/s]\u001B[A\n",
      "Validation DataLoader 0:  38%|████████████████████████████████████████████████████▋                                                                                     | 185/485 [00:03<00:06, 48.37it/s]\u001B[A\n",
      "Validation DataLoader 0:  38%|████████████████████████████████████████████████████▉                                                                                     | 186/485 [00:03<00:06, 48.37it/s]\u001B[A\n",
      "Validation DataLoader 0:  39%|█████████████████████████████████████████████████████▏                                                                                    | 187/485 [00:03<00:06, 48.36it/s]\u001B[A\n",
      "Validation DataLoader 0:  39%|█████████████████████████████████████████████████████▍                                                                                    | 188/485 [00:03<00:06, 48.35it/s]\u001B[A\n",
      "Validation DataLoader 0:  39%|█████████████████████████████████████████████████████▊                                                                                    | 189/485 [00:03<00:06, 48.35it/s]\u001B[A\n",
      "Validation DataLoader 0:  39%|██████████████████████████████████████████████████████                                                                                    | 190/485 [00:03<00:06, 48.35it/s]\u001B[A\n",
      "Validation DataLoader 0:  39%|██████████████████████████████████████████████████████▎                                                                                   | 191/485 [00:03<00:06, 48.34it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  40%|██████████████████████████████████████████████████████▋                                                                                   | 192/485 [00:03<00:06, 48.34it/s]\u001B[A\n",
      "Validation DataLoader 0:  40%|██████████████████████████████████████████████████████▉                                                                                   | 193/485 [00:03<00:06, 48.33it/s]\u001B[A\n",
      "Validation DataLoader 0:  40%|███████████████████████████████████████████████████████▏                                                                                  | 194/485 [00:04<00:06, 48.32it/s]\u001B[A\n",
      "Validation DataLoader 0:  40%|███████████████████████████████████████████████████████▍                                                                                  | 195/485 [00:04<00:05, 48.35it/s]\u001B[A\n",
      "Validation DataLoader 0:  40%|███████████████████████████████████████████████████████▊                                                                                  | 196/485 [00:04<00:05, 48.36it/s]\u001B[A\n",
      "Validation DataLoader 0:  41%|████████████████████████████████████████████████████████                                                                                  | 197/485 [00:04<00:05, 48.36it/s]\u001B[A\n",
      "Validation DataLoader 0:  41%|████████████████████████████████████████████████████████▎                                                                                 | 198/485 [00:04<00:05, 48.37it/s]\u001B[A\n",
      "Validation DataLoader 0:  41%|████████████████████████████████████████████████████████▌                                                                                 | 199/485 [00:04<00:05, 48.37it/s]\u001B[A\n",
      "Validation DataLoader 0:  41%|████████████████████████████████████████████████████████▉                                                                                 | 200/485 [00:04<00:05, 48.36it/s]\u001B[A\n",
      "Validation DataLoader 0:  41%|█████████████████████████████████████████████████████████▏                                                                                | 201/485 [00:04<00:05, 48.35it/s]\u001B[A\n",
      "Validation DataLoader 0:  42%|█████████████████████████████████████████████████████████▍                                                                                | 202/485 [00:04<00:05, 48.35it/s]\u001B[A\n",
      "Validation DataLoader 0:  42%|█████████████████████████████████████████████████████████▊                                                                                | 203/485 [00:04<00:05, 48.35it/s]\u001B[A\n",
      "Validation DataLoader 0:  42%|██████████████████████████████████████████████████████████                                                                                | 204/485 [00:04<00:05, 48.35it/s]\u001B[A\n",
      "Validation DataLoader 0:  42%|██████████████████████████████████████████████████████████▎                                                                               | 205/485 [00:04<00:05, 48.35it/s]\u001B[A\n",
      "Validation DataLoader 0:  42%|██████████████████████████████████████████████████████████▌                                                                               | 206/485 [00:04<00:05, 48.36it/s]\u001B[A\n",
      "Validation DataLoader 0:  43%|██████████████████████████████████████████████████████████▉                                                                               | 207/485 [00:04<00:05, 48.35it/s]\u001B[A\n",
      "Validation DataLoader 0:  43%|███████████████████████████████████████████████████████████▏                                                                              | 208/485 [00:04<00:05, 48.35it/s]\u001B[A\n",
      "Validation DataLoader 0:  43%|███████████████████████████████████████████████████████████▍                                                                              | 209/485 [00:04<00:05, 48.34it/s]\u001B[A\n",
      "Validation DataLoader 0:  43%|███████████████████████████████████████████████████████████▊                                                                              | 210/485 [00:04<00:05, 48.32it/s]\u001B[A\n",
      "Validation DataLoader 0:  44%|████████████████████████████████████████████████████████████                                                                              | 211/485 [00:04<00:05, 48.31it/s]\u001B[A\n",
      "Validation DataLoader 0:  44%|████████████████████████████████████████████████████████████▎                                                                             | 212/485 [00:04<00:05, 48.30it/s]\u001B[A\n",
      "Validation DataLoader 0:  44%|████████████████████████████████████████████████████████████▌                                                                             | 213/485 [00:04<00:05, 48.30it/s]\u001B[A\n",
      "Validation DataLoader 0:  44%|████████████████████████████████████████████████████████████▉                                                                             | 214/485 [00:04<00:05, 48.30it/s]\u001B[A\n",
      "Validation DataLoader 0:  44%|█████████████████████████████████████████████████████████████▏                                                                            | 215/485 [00:04<00:05, 48.29it/s]\u001B[A\n",
      "Validation DataLoader 0:  45%|█████████████████████████████████████████████████████████████▍                                                                            | 216/485 [00:04<00:05, 48.25it/s]\u001B[A\n",
      "Validation DataLoader 0:  45%|█████████████████████████████████████████████████████████████▋                                                                            | 217/485 [00:04<00:05, 48.25it/s]\u001B[A\n",
      "Validation DataLoader 0:  45%|██████████████████████████████████████████████████████████████                                                                            | 218/485 [00:04<00:05, 48.27it/s]\u001B[A\n",
      "Validation DataLoader 0:  45%|██████████████████████████████████████████████████████████████▎                                                                           | 219/485 [00:04<00:05, 48.25it/s]\u001B[A\n",
      "Validation DataLoader 0:  45%|██████████████████████████████████████████████████████████████▌                                                                           | 220/485 [00:04<00:05, 48.24it/s]\u001B[A\n",
      "Validation DataLoader 0:  46%|██████████████████████████████████████████████████████████████▉                                                                           | 221/485 [00:04<00:05, 48.24it/s]\u001B[A\n",
      "Validation DataLoader 0:  46%|███████████████████████████████████████████████████████████████▏                                                                          | 222/485 [00:04<00:05, 48.22it/s]\u001B[A\n",
      "Validation DataLoader 0:  46%|███████████████████████████████████████████████████████████████▍                                                                          | 223/485 [00:04<00:05, 48.21it/s]\u001B[A\n",
      "Validation DataLoader 0:  46%|███████████████████████████████████████████████████████████████▋                                                                          | 224/485 [00:04<00:05, 48.22it/s]\u001B[A\n",
      "Validation DataLoader 0:  46%|████████████████████████████████████████████████████████████████                                                                          | 225/485 [00:04<00:05, 48.23it/s]\u001B[A\n",
      "Validation DataLoader 0:  47%|████████████████████████████████████████████████████████████████▎                                                                         | 226/485 [00:04<00:05, 48.22it/s]\u001B[A\n",
      "Validation DataLoader 0:  47%|████████████████████████████████████████████████████████████████▌                                                                         | 227/485 [00:04<00:05, 48.22it/s]\u001B[A\n",
      "Validation DataLoader 0:  47%|████████████████████████████████████████████████████████████████▊                                                                         | 228/485 [00:04<00:05, 48.23it/s]\u001B[A\n",
      "Validation DataLoader 0:  47%|█████████████████████████████████████████████████████████████████▏                                                                        | 229/485 [00:04<00:05, 48.21it/s]\u001B[A\n",
      "Validation DataLoader 0:  47%|█████████████████████████████████████████████████████████████████▍                                                                        | 230/485 [00:04<00:05, 48.20it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  48%|█████████████████████████████████████████████████████████████████▋                                                                        | 231/485 [00:04<00:05, 48.19it/s]\u001B[A\n",
      "Validation DataLoader 0:  48%|██████████████████████████████████████████████████████████████████                                                                        | 232/485 [00:04<00:05, 48.17it/s]\u001B[A\n",
      "Validation DataLoader 0:  48%|██████████████████████████████████████████████████████████████████▎                                                                       | 233/485 [00:04<00:05, 48.17it/s]\u001B[A\n",
      "Validation DataLoader 0:  48%|██████████████████████████████████████████████████████████████████▌                                                                       | 234/485 [00:04<00:05, 48.18it/s]\u001B[A\n",
      "Validation DataLoader 0:  48%|██████████████████████████████████████████████████████████████████▊                                                                       | 235/485 [00:04<00:05, 48.18it/s]\u001B[A\n",
      "Validation DataLoader 0:  49%|███████████████████████████████████████████████████████████████████▏                                                                      | 236/485 [00:04<00:05, 48.18it/s]\u001B[A\n",
      "Validation DataLoader 0:  49%|███████████████████████████████████████████████████████████████████▍                                                                      | 237/485 [00:04<00:05, 48.17it/s]\u001B[A\n",
      "Validation DataLoader 0:  49%|███████████████████████████████████████████████████████████████████▋                                                                      | 238/485 [00:04<00:05, 48.16it/s]\u001B[A\n",
      "Validation DataLoader 0:  49%|████████████████████████████████████████████████████████████████████                                                                      | 239/485 [00:04<00:05, 48.15it/s]\u001B[A\n",
      "Validation DataLoader 0:  49%|████████████████████████████████████████████████████████████████████▎                                                                     | 240/485 [00:04<00:05, 48.15it/s]\u001B[A\n",
      "Validation DataLoader 0:  50%|████████████████████████████████████████████████████████████████████▌                                                                     | 241/485 [00:05<00:05, 48.14it/s]\u001B[A\n",
      "Validation DataLoader 0:  50%|████████████████████████████████████████████████████████████████████▊                                                                     | 242/485 [00:05<00:05, 48.15it/s]\u001B[A\n",
      "Validation DataLoader 0:  50%|█████████████████████████████████████████████████████████████████████▏                                                                    | 243/485 [00:05<00:05, 48.15it/s]\u001B[A\n",
      "Validation DataLoader 0:  50%|█████████████████████████████████████████████████████████████████████▍                                                                    | 244/485 [00:05<00:05, 48.13it/s]\u001B[A\n",
      "Validation DataLoader 0:  51%|█████████████████████████████████████████████████████████████████████▋                                                                    | 245/485 [00:05<00:04, 48.13it/s]\u001B[A\n",
      "Validation DataLoader 0:  51%|█████████████████████████████████████████████████████████████████████▉                                                                    | 246/485 [00:05<00:04, 48.13it/s]\u001B[A\n",
      "Validation DataLoader 0:  51%|██████████████████████████████████████████████████████████████████████▎                                                                   | 247/485 [00:05<00:04, 48.12it/s]\u001B[A\n",
      "Validation DataLoader 0:  51%|██████████████████████████████████████████████████████████████████████▌                                                                   | 248/485 [00:05<00:04, 48.12it/s]\u001B[A\n",
      "Validation DataLoader 0:  51%|██████████████████████████████████████████████████████████████████████▊                                                                   | 249/485 [00:05<00:04, 48.11it/s]\u001B[A\n",
      "Validation DataLoader 0:  52%|███████████████████████████████████████████████████████████████████████▏                                                                  | 250/485 [00:05<00:04, 48.11it/s]\u001B[A\n",
      "Validation DataLoader 0:  52%|███████████████████████████████████████████████████████████████████████▍                                                                  | 251/485 [00:05<00:04, 48.08it/s]\u001B[A\n",
      "Validation DataLoader 0:  52%|███████████████████████████████████████████████████████████████████████▋                                                                  | 252/485 [00:05<00:04, 48.05it/s]\u001B[A\n",
      "Validation DataLoader 0:  52%|███████████████████████████████████████████████████████████████████████▉                                                                  | 253/485 [00:05<00:04, 48.05it/s]\u001B[A\n",
      "Validation DataLoader 0:  52%|████████████████████████████████████████████████████████████████████████▎                                                                 | 254/485 [00:05<00:04, 48.04it/s]\u001B[A\n",
      "Validation DataLoader 0:  53%|████████████████████████████████████████████████████████████████████████▌                                                                 | 255/485 [00:05<00:04, 48.03it/s]\u001B[A\n",
      "Validation DataLoader 0:  53%|████████████████████████████████████████████████████████████████████████▊                                                                 | 256/485 [00:05<00:04, 48.01it/s]\u001B[A\n",
      "Validation DataLoader 0:  53%|█████████████████████████████████████████████████████████████████████████▏                                                                | 257/485 [00:05<00:04, 47.99it/s]\u001B[A\n",
      "Validation DataLoader 0:  53%|█████████████████████████████████████████████████████████████████████████▍                                                                | 258/485 [00:05<00:04, 47.98it/s]\u001B[A\n",
      "Validation DataLoader 0:  53%|█████████████████████████████████████████████████████████████████████████▋                                                                | 259/485 [00:05<00:04, 47.98it/s]\u001B[A\n",
      "Validation DataLoader 0:  54%|█████████████████████████████████████████████████████████████████████████▉                                                                | 260/485 [00:05<00:04, 47.96it/s]\u001B[A\n",
      "Validation DataLoader 0:  54%|██████████████████████████████████████████████████████████████████████████▎                                                               | 261/485 [00:05<00:04, 47.95it/s]\u001B[A\n",
      "Validation DataLoader 0:  54%|██████████████████████████████████████████████████████████████████████████▌                                                               | 262/485 [00:05<00:04, 47.96it/s]\u001B[A\n",
      "Validation DataLoader 0:  54%|██████████████████████████████████████████████████████████████████████████▊                                                               | 263/485 [00:05<00:04, 47.96it/s]\u001B[A\n",
      "Validation DataLoader 0:  54%|███████████████████████████████████████████████████████████████████████████                                                               | 264/485 [00:05<00:04, 47.95it/s]\u001B[A\n",
      "Validation DataLoader 0:  55%|███████████████████████████████████████████████████████████████████████████▍                                                              | 265/485 [00:05<00:04, 47.95it/s]\u001B[A\n",
      "Validation DataLoader 0:  55%|███████████████████████████████████████████████████████████████████████████▋                                                              | 266/485 [00:05<00:04, 47.96it/s]\u001B[A\n",
      "Validation DataLoader 0:  55%|███████████████████████████████████████████████████████████████████████████▉                                                              | 267/485 [00:05<00:04, 47.97it/s]\u001B[A\n",
      "Validation DataLoader 0:  55%|████████████████████████████████████████████████████████████████████████████▎                                                             | 268/485 [00:05<00:04, 47.96it/s]\u001B[A\n",
      "Validation DataLoader 0:  55%|████████████████████████████████████████████████████████████████████████████▌                                                             | 269/485 [00:05<00:04, 47.95it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  56%|████████████████████████████████████████████████████████████████████████████▊                                                             | 270/485 [00:05<00:04, 47.95it/s]\u001B[A\n",
      "Validation DataLoader 0:  56%|█████████████████████████████████████████████████████████████████████████████                                                             | 271/485 [00:05<00:04, 47.93it/s]\u001B[A\n",
      "Validation DataLoader 0:  56%|█████████████████████████████████████████████████████████████████████████████▍                                                            | 272/485 [00:05<00:04, 47.92it/s]\u001B[A\n",
      "Validation DataLoader 0:  56%|█████████████████████████████████████████████████████████████████████████████▋                                                            | 273/485 [00:05<00:04, 47.93it/s]\u001B[A\n",
      "Validation DataLoader 0:  56%|█████████████████████████████████████████████████████████████████████████████▉                                                            | 274/485 [00:05<00:04, 47.92it/s]\u001B[A\n",
      "Validation DataLoader 0:  57%|██████████████████████████████████████████████████████████████████████████████▏                                                           | 275/485 [00:05<00:04, 47.91it/s]\u001B[A\n",
      "Validation DataLoader 0:  57%|██████████████████████████████████████████████████████████████████████████████▌                                                           | 276/485 [00:05<00:04, 47.91it/s]\u001B[A\n",
      "Validation DataLoader 0:  57%|██████████████████████████████████████████████████████████████████████████████▊                                                           | 277/485 [00:05<00:04, 47.90it/s]\u001B[A\n",
      "Validation DataLoader 0:  57%|███████████████████████████████████████████████████████████████████████████████                                                           | 278/485 [00:05<00:04, 47.88it/s]\u001B[A\n",
      "Validation DataLoader 0:  58%|███████████████████████████████████████████████████████████████████████████████▍                                                          | 279/485 [00:05<00:04, 47.88it/s]\u001B[A\n",
      "Validation DataLoader 0:  58%|███████████████████████████████████████████████████████████████████████████████▋                                                          | 280/485 [00:05<00:04, 47.89it/s]\u001B[A\n",
      "Validation DataLoader 0:  58%|███████████████████████████████████████████████████████████████████████████████▉                                                          | 281/485 [00:05<00:04, 47.89it/s]\u001B[A\n",
      "Validation DataLoader 0:  58%|████████████████████████████████████████████████████████████████████████████████▏                                                         | 282/485 [00:05<00:04, 47.89it/s]\u001B[A\n",
      "Validation DataLoader 0:  58%|████████████████████████████████████████████████████████████████████████████████▌                                                         | 283/485 [00:05<00:04, 47.89it/s]\u001B[A\n",
      "Validation DataLoader 0:  59%|████████████████████████████████████████████████████████████████████████████████▊                                                         | 284/485 [00:05<00:04, 47.89it/s]\u001B[A\n",
      "Validation DataLoader 0:  59%|█████████████████████████████████████████████████████████████████████████████████                                                         | 285/485 [00:05<00:04, 47.88it/s]\u001B[A\n",
      "Validation DataLoader 0:  59%|█████████████████████████████████████████████████████████████████████████████████▍                                                        | 286/485 [00:05<00:04, 47.89it/s]\u001B[A\n",
      "Validation DataLoader 0:  59%|█████████████████████████████████████████████████████████████████████████████████▋                                                        | 287/485 [00:05<00:04, 47.89it/s]\u001B[A\n",
      "Validation DataLoader 0:  59%|█████████████████████████████████████████████████████████████████████████████████▉                                                        | 288/485 [00:06<00:04, 47.89it/s]\u001B[A\n",
      "Validation DataLoader 0:  60%|██████████████████████████████████████████████████████████████████████████████████▏                                                       | 289/485 [00:06<00:04, 47.89it/s]\u001B[A\n",
      "Validation DataLoader 0:  60%|██████████████████████████████████████████████████████████████████████████████████▌                                                       | 290/485 [00:06<00:04, 47.89it/s]\u001B[A\n",
      "Validation DataLoader 0:  60%|██████████████████████████████████████████████████████████████████████████████████▊                                                       | 291/485 [00:06<00:04, 47.89it/s]\u001B[A\n",
      "Validation DataLoader 0:  60%|███████████████████████████████████████████████████████████████████████████████████                                                       | 292/485 [00:06<00:04, 47.90it/s]\u001B[A\n",
      "Validation DataLoader 0:  60%|███████████████████████████████████████████████████████████████████████████████████▎                                                      | 293/485 [00:06<00:04, 47.88it/s]\u001B[A\n",
      "Validation DataLoader 0:  61%|███████████████████████████████████████████████████████████████████████████████████▋                                                      | 294/485 [00:06<00:03, 47.87it/s]\u001B[A\n",
      "Validation DataLoader 0:  61%|███████████████████████████████████████████████████████████████████████████████████▉                                                      | 295/485 [00:06<00:03, 47.83it/s]\u001B[A\n",
      "Validation DataLoader 0:  61%|████████████████████████████████████████████████████████████████████████████████████▏                                                     | 296/485 [00:06<00:03, 47.84it/s]\u001B[A\n",
      "Validation DataLoader 0:  61%|████████████████████████████████████████████████████████████████████████████████████▌                                                     | 297/485 [00:06<00:03, 47.84it/s]\u001B[A\n",
      "Validation DataLoader 0:  61%|████████████████████████████████████████████████████████████████████████████████████▊                                                     | 298/485 [00:06<00:03, 47.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  62%|█████████████████████████████████████████████████████████████████████████████████████                                                     | 299/485 [00:06<00:03, 47.86it/s]\u001B[A\n",
      "Validation DataLoader 0:  62%|█████████████████████████████████████████████████████████████████████████████████████▎                                                    | 300/485 [00:06<00:03, 47.86it/s]\u001B[A\n",
      "Validation DataLoader 0:  62%|█████████████████████████████████████████████████████████████████████████████████████▋                                                    | 301/485 [00:06<00:03, 47.86it/s]\u001B[A\n",
      "Validation DataLoader 0:  62%|█████████████████████████████████████████████████████████████████████████████████████▉                                                    | 302/485 [00:06<00:03, 47.86it/s]\u001B[A\n",
      "Validation DataLoader 0:  62%|██████████████████████████████████████████████████████████████████████████████████████▏                                                   | 303/485 [00:06<00:03, 47.86it/s]\u001B[A\n",
      "Validation DataLoader 0:  63%|██████████████████████████████████████████████████████████████████████████████████████▍                                                   | 304/485 [00:06<00:03, 47.86it/s]\u001B[A\n",
      "Validation DataLoader 0:  63%|██████████████████████████████████████████████████████████████████████████████████████▊                                                   | 305/485 [00:06<00:03, 47.86it/s]\u001B[A\n",
      "Validation DataLoader 0:  63%|███████████████████████████████████████████████████████████████████████████████████████                                                   | 306/485 [00:06<00:03, 47.86it/s]\u001B[A\n",
      "Validation DataLoader 0:  63%|███████████████████████████████████████████████████████████████████████████████████████▎                                                  | 307/485 [00:06<00:03, 47.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  64%|███████████████████████████████████████████████████████████████████████████████████████▋                                                  | 308/485 [00:06<00:03, 47.85it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  64%|███████████████████████████████████████████████████████████████████████████████████████▉                                                  | 309/485 [00:06<00:03, 47.86it/s]\u001B[A\n",
      "Validation DataLoader 0:  64%|████████████████████████████████████████████████████████████████████████████████████████▏                                                 | 310/485 [00:06<00:03, 47.86it/s]\u001B[A\n",
      "Validation DataLoader 0:  64%|████████████████████████████████████████████████████████████████████████████████████████▍                                                 | 311/485 [00:06<00:03, 47.86it/s]\u001B[A\n",
      "Validation DataLoader 0:  64%|████████████████████████████████████████████████████████████████████████████████████████▊                                                 | 312/485 [00:06<00:03, 47.86it/s]\u001B[A\n",
      "Validation DataLoader 0:  65%|█████████████████████████████████████████████████████████████████████████████████████████                                                 | 313/485 [00:06<00:03, 47.87it/s]\u001B[A\n",
      "Validation DataLoader 0:  65%|█████████████████████████████████████████████████████████████████████████████████████████▎                                                | 314/485 [00:06<00:03, 47.88it/s]\u001B[A\n",
      "Validation DataLoader 0:  65%|█████████████████████████████████████████████████████████████████████████████████████████▋                                                | 315/485 [00:06<00:03, 47.89it/s]\u001B[A\n",
      "Validation DataLoader 0:  65%|█████████████████████████████████████████████████████████████████████████████████████████▉                                                | 316/485 [00:06<00:03, 47.90it/s]\u001B[A\n",
      "Validation DataLoader 0:  65%|██████████████████████████████████████████████████████████████████████████████████████████▏                                               | 317/485 [00:06<00:03, 47.89it/s]\u001B[A\n",
      "Validation DataLoader 0:  66%|██████████████████████████████████████████████████████████████████████████████████████████▍                                               | 318/485 [00:06<00:03, 47.89it/s]\u001B[A\n",
      "Validation DataLoader 0:  66%|██████████████████████████████████████████████████████████████████████████████████████████▊                                               | 319/485 [00:06<00:03, 47.88it/s]\u001B[A\n",
      "Validation DataLoader 0:  66%|███████████████████████████████████████████████████████████████████████████████████████████                                               | 320/485 [00:06<00:03, 47.88it/s]\u001B[A\n",
      "Validation DataLoader 0:  66%|███████████████████████████████████████████████████████████████████████████████████████████▎                                              | 321/485 [00:06<00:03, 47.88it/s]\u001B[A\n",
      "Validation DataLoader 0:  66%|███████████████████████████████████████████████████████████████████████████████████████████▌                                              | 322/485 [00:06<00:03, 47.88it/s]\u001B[A\n",
      "Validation DataLoader 0:  67%|███████████████████████████████████████████████████████████████████████████████████████████▉                                              | 323/485 [00:06<00:03, 47.88it/s]\u001B[A\n",
      "Validation DataLoader 0:  67%|████████████████████████████████████████████████████████████████████████████████████████████▏                                             | 324/485 [00:06<00:03, 47.89it/s]\u001B[A\n",
      "Validation DataLoader 0:  67%|████████████████████████████████████████████████████████████████████████████████████████████▍                                             | 325/485 [00:06<00:03, 47.89it/s]\u001B[A\n",
      "Validation DataLoader 0:  67%|████████████████████████████████████████████████████████████████████████████████████████████▊                                             | 326/485 [00:06<00:03, 47.89it/s]\u001B[A\n",
      "Validation DataLoader 0:  67%|█████████████████████████████████████████████████████████████████████████████████████████████                                             | 327/485 [00:06<00:03, 47.89it/s]\u001B[A\n",
      "Validation DataLoader 0:  68%|█████████████████████████████████████████████████████████████████████████████████████████████▎                                            | 328/485 [00:06<00:03, 47.89it/s]\u001B[A\n",
      "Validation DataLoader 0:  68%|█████████████████████████████████████████████████████████████████████████████████████████████▌                                            | 329/485 [00:06<00:03, 47.88it/s]\u001B[A\n",
      "Validation DataLoader 0:  68%|█████████████████████████████████████████████████████████████████████████████████████████████▉                                            | 330/485 [00:06<00:03, 47.87it/s]\u001B[A\n",
      "Validation DataLoader 0:  68%|██████████████████████████████████████████████████████████████████████████████████████████████▏                                           | 331/485 [00:06<00:03, 47.87it/s]\u001B[A\n",
      "Validation DataLoader 0:  68%|██████████████████████████████████████████████████████████████████████████████████████████████▍                                           | 332/485 [00:06<00:03, 47.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  69%|██████████████████████████████████████████████████████████████████████████████████████████████▊                                           | 333/485 [00:06<00:03, 47.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  69%|███████████████████████████████████████████████████████████████████████████████████████████████                                           | 334/485 [00:06<00:03, 47.86it/s]\u001B[A\n",
      "Validation DataLoader 0:  69%|███████████████████████████████████████████████████████████████████████████████████████████████▎                                          | 335/485 [00:06<00:03, 47.86it/s]\u001B[A\n",
      "Validation DataLoader 0:  69%|███████████████████████████████████████████████████████████████████████████████████████████████▌                                          | 336/485 [00:07<00:03, 47.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  69%|███████████████████████████████████████████████████████████████████████████████████████████████▉                                          | 337/485 [00:07<00:03, 47.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  70%|████████████████████████████████████████████████████████████████████████████████████████████████▏                                         | 338/485 [00:07<00:03, 47.86it/s]\u001B[A\n",
      "Validation DataLoader 0:  70%|████████████████████████████████████████████████████████████████████████████████████████████████▍                                         | 339/485 [00:07<00:03, 47.87it/s]\u001B[A\n",
      "Validation DataLoader 0:  70%|████████████████████████████████████████████████████████████████████████████████████████████████▋                                         | 340/485 [00:07<00:03, 47.86it/s]\u001B[A\n",
      "Validation DataLoader 0:  70%|█████████████████████████████████████████████████████████████████████████████████████████████████                                         | 341/485 [00:07<00:03, 47.86it/s]\u001B[A\n",
      "Validation DataLoader 0:  71%|█████████████████████████████████████████████████████████████████████████████████████████████████▎                                        | 342/485 [00:07<00:02, 47.87it/s]\u001B[A\n",
      "Validation DataLoader 0:  71%|█████████████████████████████████████████████████████████████████████████████████████████████████▌                                        | 343/485 [00:07<00:02, 47.88it/s]\u001B[A\n",
      "Validation DataLoader 0:  71%|█████████████████████████████████████████████████████████████████████████████████████████████████▉                                        | 344/485 [00:07<00:02, 47.88it/s]\u001B[A\n",
      "Validation DataLoader 0:  71%|██████████████████████████████████████████████████████████████████████████████████████████████████▏                                       | 345/485 [00:07<00:02, 47.88it/s]\u001B[A\n",
      "Validation DataLoader 0:  71%|██████████████████████████████████████████████████████████████████████████████████████████████████▍                                       | 346/485 [00:07<00:02, 47.88it/s]\u001B[A\n",
      "Validation DataLoader 0:  72%|██████████████████████████████████████████████████████████████████████████████████████████████████▋                                       | 347/485 [00:07<00:02, 47.89it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  72%|███████████████████████████████████████████████████████████████████████████████████████████████████                                       | 348/485 [00:07<00:02, 47.88it/s]\u001B[A\n",
      "Validation DataLoader 0:  72%|███████████████████████████████████████████████████████████████████████████████████████████████████▎                                      | 349/485 [00:07<00:02, 47.87it/s]\u001B[A\n",
      "Validation DataLoader 0:  72%|███████████████████████████████████████████████████████████████████████████████████████████████████▌                                      | 350/485 [00:07<00:02, 47.87it/s]\u001B[A\n",
      "Validation DataLoader 0:  72%|███████████████████████████████████████████████████████████████████████████████████████████████████▊                                      | 351/485 [00:07<00:02, 47.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  73%|████████████████████████████████████████████████████████████████████████████████████████████████████▏                                     | 352/485 [00:07<00:02, 47.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  73%|████████████████████████████████████████████████████████████████████████████████████████████████████▍                                     | 353/485 [00:07<00:02, 47.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  73%|████████████████████████████████████████████████████████████████████████████████████████████████████▋                                     | 354/485 [00:07<00:02, 47.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  73%|█████████████████████████████████████████████████████████████████████████████████████████████████████                                     | 355/485 [00:07<00:02, 47.84it/s]\u001B[A\n",
      "Validation DataLoader 0:  73%|█████████████████████████████████████████████████████████████████████████████████████████████████████▎                                    | 356/485 [00:07<00:02, 47.84it/s]\u001B[A\n",
      "Validation DataLoader 0:  74%|█████████████████████████████████████████████████████████████████████████████████████████████████████▌                                    | 357/485 [00:07<00:02, 47.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  74%|█████████████████████████████████████████████████████████████████████████████████████████████████████▊                                    | 358/485 [00:07<00:02, 47.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  74%|██████████████████████████████████████████████████████████████████████████████████████████████████████▏                                   | 359/485 [00:07<00:02, 47.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  74%|██████████████████████████████████████████████████████████████████████████████████████████████████████▍                                   | 360/485 [00:07<00:02, 47.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  74%|██████████████████████████████████████████████████████████████████████████████████████████████████████▋                                   | 361/485 [00:07<00:02, 47.86it/s]\u001B[A\n",
      "Validation DataLoader 0:  75%|███████████████████████████████████████████████████████████████████████████████████████████████████████                                   | 362/485 [00:07<00:02, 47.86it/s]\u001B[A\n",
      "Validation DataLoader 0:  75%|███████████████████████████████████████████████████████████████████████████████████████████████████████▎                                  | 363/485 [00:07<00:02, 47.86it/s]\u001B[A\n",
      "Validation DataLoader 0:  75%|███████████████████████████████████████████████████████████████████████████████████████████████████████▌                                  | 364/485 [00:07<00:02, 47.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  75%|███████████████████████████████████████████████████████████████████████████████████████████████████████▊                                  | 365/485 [00:07<00:02, 47.84it/s]\u001B[A\n",
      "Validation DataLoader 0:  75%|████████████████████████████████████████████████████████████████████████████████████████████████████████▏                                 | 366/485 [00:07<00:02, 47.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  76%|████████████████████████████████████████████████████████████████████████████████████████████████████████▍                                 | 367/485 [00:07<00:02, 47.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  76%|████████████████████████████████████████████████████████████████████████████████████████████████████████▋                                 | 368/485 [00:07<00:02, 47.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  76%|████████████████████████████████████████████████████████████████████████████████████████████████████████▉                                 | 369/485 [00:07<00:02, 47.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  76%|█████████████████████████████████████████████████████████████████████████████████████████████████████████▎                                | 370/485 [00:07<00:02, 47.86it/s]\u001B[A\n",
      "Validation DataLoader 0:  76%|█████████████████████████████████████████████████████████████████████████████████████████████████████████▌                                | 371/485 [00:07<00:02, 47.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  77%|█████████████████████████████████████████████████████████████████████████████████████████████████████████▊                                | 372/485 [00:07<00:02, 47.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  77%|██████████████████████████████████████████████████████████████████████████████████████████████████████████▏                               | 373/485 [00:07<00:02, 47.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  77%|██████████████████████████████████████████████████████████████████████████████████████████████████████████▍                               | 374/485 [00:07<00:02, 47.86it/s]\u001B[A\n",
      "Validation DataLoader 0:  77%|██████████████████████████████████████████████████████████████████████████████████████████████████████████▋                               | 375/485 [00:07<00:02, 47.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  78%|██████████████████████████████████████████████████████████████████████████████████████████████████████████▉                               | 376/485 [00:07<00:02, 47.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  78%|███████████████████████████████████████████████████████████████████████████████████████████████████████████▎                              | 377/485 [00:07<00:02, 47.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  78%|███████████████████████████████████████████████████████████████████████████████████████████████████████████▌                              | 378/485 [00:07<00:02, 47.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  78%|███████████████████████████████████████████████████████████████████████████████████████████████████████████▊                              | 379/485 [00:07<00:02, 47.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  78%|████████████████████████████████████████████████████████████████████████████████████████████████████████████                              | 380/485 [00:07<00:02, 47.84it/s]\u001B[A\n",
      "Validation DataLoader 0:  79%|████████████████████████████████████████████████████████████████████████████████████████████████████████████▍                             | 381/485 [00:07<00:02, 47.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  79%|████████████████████████████████████████████████████████████████████████████████████████████████████████████▋                             | 382/485 [00:07<00:02, 47.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  79%|████████████████████████████████████████████████████████████████████████████████████████████████████████████▉                             | 383/485 [00:08<00:02, 47.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  79%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████▎                            | 384/485 [00:08<00:02, 47.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  79%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████▌                            | 385/485 [00:08<00:02, 47.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  80%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████▊                            | 386/485 [00:08<00:02, 47.86it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  80%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████                            | 387/485 [00:08<00:02, 47.87it/s]\u001B[A\n",
      "Validation DataLoader 0:  80%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████▍                           | 388/485 [00:08<00:02, 47.86it/s]\u001B[A\n",
      "Validation DataLoader 0:  80%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████▋                           | 389/485 [00:08<00:02, 47.86it/s]\u001B[A\n",
      "Validation DataLoader 0:  80%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████▉                           | 390/485 [00:08<00:01, 47.86it/s]\u001B[A\n",
      "Validation DataLoader 0:  81%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████▎                          | 391/485 [00:08<00:01, 47.86it/s]\u001B[A\n",
      "Validation DataLoader 0:  81%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████▌                          | 392/485 [00:08<00:01, 47.86it/s]\u001B[A\n",
      "Validation DataLoader 0:  81%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████▊                          | 393/485 [00:08<00:01, 47.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  81%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████                          | 394/485 [00:08<00:01, 47.84it/s]\u001B[A\n",
      "Validation DataLoader 0:  81%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍                         | 395/485 [00:08<00:01, 47.84it/s]\u001B[A\n",
      "Validation DataLoader 0:  82%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋                         | 396/485 [00:08<00:01, 47.84it/s]\u001B[A\n",
      "Validation DataLoader 0:  82%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉                         | 397/485 [00:08<00:01, 47.83it/s]\u001B[A\n",
      "Validation DataLoader 0:  82%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏                        | 398/485 [00:08<00:01, 47.83it/s]\u001B[A\n",
      "Validation DataLoader 0:  82%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌                        | 399/485 [00:08<00:01, 47.83it/s]\u001B[A\n",
      "Validation DataLoader 0:  82%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊                        | 400/485 [00:08<00:01, 47.83it/s]\u001B[A\n",
      "Validation DataLoader 0:  83%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████                        | 401/485 [00:08<00:01, 47.82it/s]\u001B[A\n",
      "Validation DataLoader 0:  83%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍                       | 402/485 [00:08<00:01, 47.82it/s]\u001B[A\n",
      "Validation DataLoader 0:  83%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋                       | 403/485 [00:08<00:01, 47.82it/s]\u001B[A\n",
      "Validation DataLoader 0:  83%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉                       | 404/485 [00:08<00:01, 47.83it/s]\u001B[A\n",
      "Validation DataLoader 0:  84%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏                      | 405/485 [00:08<00:01, 47.82it/s]\u001B[A\n",
      "Validation DataLoader 0:  84%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌                      | 406/485 [00:08<00:01, 47.83it/s]\u001B[A\n",
      "Validation DataLoader 0:  84%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊                      | 407/485 [00:08<00:01, 47.83it/s]\u001B[A\n",
      "Validation DataLoader 0:  84%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████                      | 408/485 [00:08<00:01, 47.83it/s]\u001B[A\n",
      "Validation DataLoader 0:  84%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍                     | 409/485 [00:08<00:01, 47.84it/s]\u001B[A\n",
      "Validation DataLoader 0:  85%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋                     | 410/485 [00:08<00:01, 47.84it/s]\u001B[A\n",
      "Validation DataLoader 0:  85%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉                     | 411/485 [00:08<00:01, 47.84it/s]\u001B[A\n",
      "Validation DataLoader 0:  85%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏                    | 412/485 [00:08<00:01, 47.84it/s]\u001B[A\n",
      "Validation DataLoader 0:  85%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌                    | 413/485 [00:08<00:01, 47.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  85%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊                    | 414/485 [00:08<00:01, 47.84it/s]\u001B[A\n",
      "Validation DataLoader 0:  86%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████                    | 415/485 [00:08<00:01, 47.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  86%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎                   | 416/485 [00:08<00:01, 47.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  86%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋                   | 417/485 [00:08<00:01, 47.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  86%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉                   | 418/485 [00:08<00:01, 47.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  86%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏                  | 419/485 [00:08<00:01, 47.84it/s]\u001B[A\n",
      "Validation DataLoader 0:  87%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌                  | 420/485 [00:08<00:01, 47.84it/s]\u001B[A\n",
      "Validation DataLoader 0:  87%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊                  | 421/485 [00:08<00:01, 47.84it/s]\u001B[A\n",
      "Validation DataLoader 0:  87%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████                  | 422/485 [00:08<00:01, 47.83it/s]\u001B[A\n",
      "Validation DataLoader 0:  87%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎                 | 423/485 [00:08<00:01, 47.83it/s]\u001B[A\n",
      "Validation DataLoader 0:  87%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋                 | 424/485 [00:08<00:01, 47.83it/s]\u001B[A\n",
      "Validation DataLoader 0:  88%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉                 | 425/485 [00:08<00:01, 47.84it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  88%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏                | 426/485 [00:08<00:01, 47.84it/s]\u001B[A\n",
      "Validation DataLoader 0:  88%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍                | 427/485 [00:08<00:01, 47.84it/s]\u001B[A\n",
      "Validation DataLoader 0:  88%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊                | 428/485 [00:08<00:01, 47.83it/s]\u001B[A\n",
      "Validation DataLoader 0:  88%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████                | 429/485 [00:08<00:01, 47.84it/s]\u001B[A\n",
      "Validation DataLoader 0:  89%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎               | 430/485 [00:08<00:01, 47.84it/s]\u001B[A\n",
      "Validation DataLoader 0:  89%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋               | 431/485 [00:09<00:01, 47.84it/s]\u001B[A\n",
      "Validation DataLoader 0:  89%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉               | 432/485 [00:09<00:01, 47.83it/s]\u001B[A\n",
      "Validation DataLoader 0:  89%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏              | 433/485 [00:09<00:01, 47.83it/s]\u001B[A\n",
      "Validation DataLoader 0:  89%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍              | 434/485 [00:09<00:01, 47.84it/s]\u001B[A\n",
      "Validation DataLoader 0:  90%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊              | 435/485 [00:09<00:01, 47.83it/s]\u001B[A\n",
      "Validation DataLoader 0:  90%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████              | 436/485 [00:09<00:01, 47.83it/s]\u001B[A\n",
      "Validation DataLoader 0:  90%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎             | 437/485 [00:09<00:01, 47.83it/s]\u001B[A\n",
      "Validation DataLoader 0:  90%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋             | 438/485 [00:09<00:00, 47.83it/s]\u001B[A\n",
      "Validation DataLoader 0:  91%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉             | 439/485 [00:09<00:00, 47.83it/s]\u001B[A\n",
      "Validation DataLoader 0:  91%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏            | 440/485 [00:09<00:00, 47.84it/s]\u001B[A\n",
      "Validation DataLoader 0:  91%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍            | 441/485 [00:09<00:00, 47.84it/s]\u001B[A\n",
      "Validation DataLoader 0:  91%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊            | 442/485 [00:09<00:00, 47.84it/s]\u001B[A\n",
      "Validation DataLoader 0:  91%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████            | 443/485 [00:09<00:00, 47.84it/s]\u001B[A\n",
      "Validation DataLoader 0:  92%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎           | 444/485 [00:09<00:00, 47.83it/s]\u001B[A\n",
      "Validation DataLoader 0:  92%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌           | 445/485 [00:09<00:00, 47.83it/s]\u001B[A\n",
      "Validation DataLoader 0:  92%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉           | 446/485 [00:09<00:00, 47.83it/s]\u001B[A\n",
      "Validation DataLoader 0:  92%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏          | 447/485 [00:09<00:00, 47.81it/s]\u001B[A\n",
      "Validation DataLoader 0:  92%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍          | 448/485 [00:09<00:00, 47.80it/s]\u001B[A\n",
      "Validation DataLoader 0:  93%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊          | 449/485 [00:09<00:00, 47.80it/s]\u001B[A\n",
      "Validation DataLoader 0:  93%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████          | 450/485 [00:09<00:00, 47.79it/s]\u001B[A\n",
      "Validation DataLoader 0:  93%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎         | 451/485 [00:09<00:00, 47.78it/s]\u001B[A\n",
      "Validation DataLoader 0:  93%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌         | 452/485 [00:09<00:00, 47.78it/s]\u001B[A\n",
      "Validation DataLoader 0:  93%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉         | 453/485 [00:09<00:00, 47.79it/s]\u001B[A\n",
      "Validation DataLoader 0:  94%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏        | 454/485 [00:09<00:00, 47.79it/s]\u001B[A\n",
      "Validation DataLoader 0:  94%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍        | 455/485 [00:09<00:00, 47.79it/s]\u001B[A\n",
      "Validation DataLoader 0:  94%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋        | 456/485 [00:09<00:00, 47.79it/s]\u001B[A\n",
      "Validation DataLoader 0:  94%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████        | 457/485 [00:09<00:00, 47.80it/s]\u001B[A\n",
      "Validation DataLoader 0:  94%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎       | 458/485 [00:09<00:00, 47.81it/s]\u001B[A\n",
      "Validation DataLoader 0:  95%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌       | 459/485 [00:09<00:00, 47.81it/s]\u001B[A\n",
      "Validation DataLoader 0:  95%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉       | 460/485 [00:09<00:00, 47.81it/s]\u001B[A\n",
      "Validation DataLoader 0:  95%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏      | 461/485 [00:09<00:00, 47.81it/s]\u001B[A\n",
      "Validation DataLoader 0:  95%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍      | 462/485 [00:09<00:00, 47.81it/s]\u001B[A\n",
      "Validation DataLoader 0:  95%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋      | 463/485 [00:09<00:00, 47.81it/s]\u001B[A\n",
      "Validation DataLoader 0:  96%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████      | 464/485 [00:09<00:00, 47.81it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  96%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎     | 465/485 [00:09<00:00, 47.81it/s]\u001B[A\n",
      "Validation DataLoader 0:  96%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌     | 466/485 [00:09<00:00, 47.81it/s]\u001B[A\n",
      "Validation DataLoader 0:  96%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉     | 467/485 [00:09<00:00, 47.81it/s]\u001B[A\n",
      "Validation DataLoader 0:  96%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏    | 468/485 [00:09<00:00, 47.81it/s]\u001B[A\n",
      "Validation DataLoader 0:  97%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍    | 469/485 [00:09<00:00, 47.81it/s]\u001B[A\n",
      "Validation DataLoader 0:  97%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋    | 470/485 [00:09<00:00, 47.82it/s]\u001B[A\n",
      "Validation DataLoader 0:  97%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████    | 471/485 [00:09<00:00, 47.83it/s]\u001B[A\n",
      "Validation DataLoader 0:  97%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎   | 472/485 [00:09<00:00, 47.82it/s]\u001B[A\n",
      "Validation DataLoader 0:  98%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌   | 473/485 [00:09<00:00, 47.82it/s]\u001B[A\n",
      "Validation DataLoader 0:  98%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊   | 474/485 [00:09<00:00, 47.82it/s]\u001B[A\n",
      "Validation DataLoader 0:  98%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏  | 475/485 [00:09<00:00, 47.83it/s]\u001B[A\n",
      "Validation DataLoader 0:  98%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍  | 476/485 [00:09<00:00, 47.83it/s]\u001B[A\n",
      "Validation DataLoader 0:  98%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋  | 477/485 [00:09<00:00, 47.82it/s]\u001B[A\n",
      "Validation DataLoader 0:  99%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████  | 478/485 [00:09<00:00, 47.82it/s]\u001B[A\n",
      "Validation DataLoader 0:  99%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎ | 479/485 [00:10<00:00, 47.82it/s]\u001B[A\n",
      "Validation DataLoader 0:  99%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌ | 480/485 [00:10<00:00, 47.81it/s]\u001B[A\n",
      "Validation DataLoader 0:  99%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊ | 481/485 [00:10<00:00, 47.81it/s]\u001B[A\n",
      "Validation DataLoader 0:  99%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏| 482/485 [00:10<00:00, 47.81it/s]\u001B[A\n",
      "Validation DataLoader 0: 100%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍| 483/485 [00:10<00:00, 47.81it/s]\u001B[A\n",
      "Validation DataLoader 0: 100%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋| 484/485 [00:10<00:00, 47.81it/s]\u001B[A\n",
      "Epoch 2: 100%|███████████████████████████████████████████████████████████████████████████████████████████████████████████| 1453/1453 [03:02<00:00,  7.98it/s, v_num=103, train_loss=1.900, val_loss=1.220]\u001B[A\n",
      "Epoch 3: 100%|███████████████████████████████████████████████████████████████████████████████████████████████████████████| 1453/1453 [02:50<00:00,  8.50it/s, v_num=103, train_loss=2.040, val_loss=1.220]\u001B[A\n",
      "Validation: 0it [00:00, ?it/s]\u001B[A\n",
      "Validation:   0%|                                                                                                                                                                 | 0/485 [00:00<?, ?it/s]\u001B[A\n",
      "Validation DataLoader 0:   0%|                                                                                                                                                    | 0/485 [00:00<?, ?it/s]\u001B[A\n",
      "Validation DataLoader 0:   0%|▎                                                                                                                                           | 1/485 [00:00<00:15, 30.51it/s]\u001B[A\n",
      "Validation DataLoader 0:   0%|▌                                                                                                                                           | 2/485 [00:00<00:12, 37.49it/s]\u001B[A\n",
      "Validation DataLoader 0:   1%|▊                                                                                                                                           | 3/485 [00:00<00:12, 39.87it/s]\u001B[A\n",
      "Validation DataLoader 0:   1%|█▏                                                                                                                                          | 4/485 [00:00<00:11, 41.85it/s]\u001B[A\n",
      "Validation DataLoader 0:   1%|█▍                                                                                                                                          | 5/485 [00:00<00:10, 43.71it/s]\u001B[A\n",
      "Validation DataLoader 0:   1%|█▋                                                                                                                                          | 6/485 [00:00<00:10, 44.98it/s]\u001B[A\n",
      "Validation DataLoader 0:   1%|██                                                                                                                                          | 7/485 [00:00<00:11, 42.25it/s]\u001B[A\n",
      "Validation DataLoader 0:   2%|██▎                                                                                                                                         | 8/485 [00:00<00:11, 43.13it/s]\u001B[A\n",
      "Validation DataLoader 0:   2%|██▌                                                                                                                                         | 9/485 [00:00<00:10, 43.97it/s]\u001B[A\n",
      "Validation DataLoader 0:   2%|██▊                                                                                                                                        | 10/485 [00:00<00:10, 44.68it/s]\u001B[A\n",
      "Validation DataLoader 0:   2%|███▏                                                                                                                                       | 11/485 [00:00<00:10, 45.29it/s]\u001B[A\n",
      "Validation DataLoader 0:   2%|███▍                                                                                                                                       | 12/485 [00:00<00:10, 45.76it/s]\u001B[A\n",
      "Validation DataLoader 0:   3%|███▋                                                                                                                                       | 13/485 [00:00<00:10, 46.32it/s]\u001B[A\n",
      "Validation DataLoader 0:   3%|████                                                                                                                                       | 14/485 [00:00<00:10, 46.66it/s]\u001B[A\n",
      "Validation DataLoader 0:   3%|████▎                                                                                                                                      | 15/485 [00:00<00:10, 46.99it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:   3%|████▌                                                                                                                                      | 16/485 [00:00<00:09, 47.38it/s]\u001B[A\n",
      "Validation DataLoader 0:   4%|████▊                                                                                                                                      | 17/485 [00:00<00:09, 47.68it/s]\u001B[A\n",
      "Validation DataLoader 0:   4%|█████▏                                                                                                                                     | 18/485 [00:00<00:09, 47.94it/s]\u001B[A\n",
      "Validation DataLoader 0:   4%|█████▍                                                                                                                                     | 19/485 [00:00<00:09, 48.24it/s]\u001B[A\n",
      "Validation DataLoader 0:   4%|█████▋                                                                                                                                     | 20/485 [00:00<00:09, 48.44it/s]\u001B[A\n",
      "Validation DataLoader 0:   4%|██████                                                                                                                                     | 21/485 [00:00<00:09, 48.62it/s]\u001B[A\n",
      "Validation DataLoader 0:   5%|██████▎                                                                                                                                    | 22/485 [00:00<00:09, 48.79it/s]\u001B[A\n",
      "Validation DataLoader 0:   5%|██████▌                                                                                                                                    | 23/485 [00:00<00:09, 48.90it/s]\u001B[A\n",
      "Validation DataLoader 0:   5%|██████▉                                                                                                                                    | 24/485 [00:00<00:09, 49.05it/s]\u001B[A\n",
      "Validation DataLoader 0:   5%|███████▏                                                                                                                                   | 25/485 [00:00<00:09, 49.18it/s]\u001B[A\n",
      "Validation DataLoader 0:   5%|███████▍                                                                                                                                   | 26/485 [00:00<00:09, 49.34it/s]\u001B[A\n",
      "Validation DataLoader 0:   6%|███████▋                                                                                                                                   | 27/485 [00:00<00:09, 49.46it/s]\u001B[A\n",
      "Validation DataLoader 0:   6%|████████                                                                                                                                   | 28/485 [00:00<00:09, 49.57it/s]\u001B[A\n",
      "Validation DataLoader 0:   6%|████████▎                                                                                                                                  | 29/485 [00:00<00:09, 49.65it/s]\u001B[A\n",
      "Validation DataLoader 0:   6%|████████▌                                                                                                                                  | 30/485 [00:00<00:09, 49.78it/s]\u001B[A\n",
      "Validation DataLoader 0:   6%|████████▉                                                                                                                                  | 31/485 [00:00<00:09, 49.87it/s]\u001B[A\n",
      "Validation DataLoader 0:   7%|█████████▏                                                                                                                                 | 32/485 [00:00<00:09, 49.97it/s]\u001B[A\n",
      "Validation DataLoader 0:   7%|█████████▍                                                                                                                                 | 33/485 [00:00<00:09, 50.07it/s]\u001B[A\n",
      "Validation DataLoader 0:   7%|█████████▋                                                                                                                                 | 34/485 [00:00<00:08, 50.13it/s]\u001B[A\n",
      "Validation DataLoader 0:   7%|██████████                                                                                                                                 | 35/485 [00:00<00:08, 50.19it/s]\u001B[A\n",
      "Validation DataLoader 0:   7%|██████████▎                                                                                                                                | 36/485 [00:00<00:08, 50.28it/s]\u001B[A\n",
      "Validation DataLoader 0:   8%|██████████▌                                                                                                                                | 37/485 [00:00<00:08, 50.40it/s]\u001B[A\n",
      "Validation DataLoader 0:   8%|██████████▉                                                                                                                                | 38/485 [00:00<00:08, 50.52it/s]\u001B[A\n",
      "Validation DataLoader 0:   8%|███████████▏                                                                                                                               | 39/485 [00:00<00:08, 50.63it/s]\u001B[A\n",
      "Validation DataLoader 0:   8%|███████████▍                                                                                                                               | 40/485 [00:00<00:08, 50.74it/s]\u001B[A\n",
      "Validation DataLoader 0:   8%|███████████▊                                                                                                                               | 41/485 [00:00<00:08, 50.86it/s]\u001B[A\n",
      "Validation DataLoader 0:   9%|████████████                                                                                                                               | 42/485 [00:00<00:08, 50.98it/s]\u001B[A\n",
      "Validation DataLoader 0:   9%|████████████▎                                                                                                                              | 43/485 [00:00<00:08, 51.05it/s]\u001B[A\n",
      "Validation DataLoader 0:   9%|████████████▌                                                                                                                              | 44/485 [00:00<00:08, 51.12it/s]\u001B[A\n",
      "Validation DataLoader 0:   9%|████████████▉                                                                                                                              | 45/485 [00:00<00:08, 51.17it/s]\u001B[A\n",
      "Validation DataLoader 0:   9%|█████████████▏                                                                                                                             | 46/485 [00:00<00:08, 51.18it/s]\u001B[A\n",
      "Validation DataLoader 0:  10%|█████████████▍                                                                                                                             | 47/485 [00:00<00:08, 51.18it/s]\u001B[A\n",
      "Validation DataLoader 0:  10%|█████████████▊                                                                                                                             | 48/485 [00:00<00:08, 51.24it/s]\u001B[A\n",
      "Validation DataLoader 0:  10%|██████████████                                                                                                                             | 49/485 [00:00<00:08, 51.27it/s]\u001B[A\n",
      "Validation DataLoader 0:  10%|██████████████▎                                                                                                                            | 50/485 [00:00<00:08, 51.31it/s]\u001B[A\n",
      "Validation DataLoader 0:  11%|██████████████▌                                                                                                                            | 51/485 [00:00<00:08, 51.33it/s]\u001B[A\n",
      "Validation DataLoader 0:  11%|██████████████▉                                                                                                                            | 52/485 [00:01<00:08, 51.37it/s]\u001B[A\n",
      "Validation DataLoader 0:  11%|███████████████▏                                                                                                                           | 53/485 [00:01<00:08, 51.41it/s]\u001B[A\n",
      "Validation DataLoader 0:  11%|███████████████▍                                                                                                                           | 54/485 [00:01<00:08, 51.45it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  11%|███████████████▊                                                                                                                           | 55/485 [00:01<00:08, 51.50it/s]\u001B[A\n",
      "Validation DataLoader 0:  12%|████████████████                                                                                                                           | 56/485 [00:01<00:08, 51.55it/s]\u001B[A\n",
      "Validation DataLoader 0:  12%|████████████████▎                                                                                                                          | 57/485 [00:01<00:08, 51.60it/s]\u001B[A\n",
      "Validation DataLoader 0:  12%|████████████████▌                                                                                                                          | 58/485 [00:01<00:08, 51.66it/s]\u001B[A\n",
      "Validation DataLoader 0:  12%|████████████████▉                                                                                                                          | 59/485 [00:01<00:08, 51.72it/s]\u001B[A\n",
      "Validation DataLoader 0:  12%|█████████████████▏                                                                                                                         | 60/485 [00:01<00:08, 51.78it/s]\u001B[A\n",
      "Validation DataLoader 0:  13%|█████████████████▍                                                                                                                         | 61/485 [00:01<00:08, 51.82it/s]\u001B[A\n",
      "Validation DataLoader 0:  13%|█████████████████▊                                                                                                                         | 62/485 [00:01<00:08, 51.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  13%|██████████████████                                                                                                                         | 63/485 [00:01<00:08, 51.88it/s]\u001B[A\n",
      "Validation DataLoader 0:  13%|██████████████████▎                                                                                                                        | 64/485 [00:01<00:08, 51.95it/s]\u001B[A\n",
      "Validation DataLoader 0:  13%|██████████████████▋                                                                                                                        | 65/485 [00:01<00:08, 51.99it/s]\u001B[A\n",
      "Validation DataLoader 0:  14%|██████████████████▉                                                                                                                        | 66/485 [00:01<00:08, 52.05it/s]\u001B[A\n",
      "Validation DataLoader 0:  14%|███████████████████▏                                                                                                                       | 67/485 [00:01<00:08, 52.11it/s]\u001B[A\n",
      "Validation DataLoader 0:  14%|███████████████████▍                                                                                                                       | 68/485 [00:01<00:07, 52.16it/s]\u001B[A\n",
      "Validation DataLoader 0:  14%|███████████████████▊                                                                                                                       | 69/485 [00:01<00:07, 52.22it/s]\u001B[A\n",
      "Validation DataLoader 0:  14%|████████████████████                                                                                                                       | 70/485 [00:01<00:07, 52.28it/s]\u001B[A\n",
      "Validation DataLoader 0:  15%|████████████████████▎                                                                                                                      | 71/485 [00:01<00:07, 52.29it/s]\u001B[A\n",
      "Validation DataLoader 0:  15%|████████████████████▋                                                                                                                      | 72/485 [00:01<00:07, 52.29it/s]\u001B[A\n",
      "Validation DataLoader 0:  15%|████████████████████▉                                                                                                                      | 73/485 [00:01<00:07, 52.29it/s]\u001B[A\n",
      "Validation DataLoader 0:  15%|█████████████████████▏                                                                                                                     | 74/485 [00:01<00:07, 52.32it/s]\u001B[A\n",
      "Validation DataLoader 0:  15%|█████████████████████▍                                                                                                                     | 75/485 [00:01<00:07, 52.36it/s]\u001B[A\n",
      "Validation DataLoader 0:  16%|█████████████████████▊                                                                                                                     | 76/485 [00:01<00:07, 52.41it/s]\u001B[A\n",
      "Validation DataLoader 0:  16%|██████████████████████                                                                                                                     | 77/485 [00:01<00:07, 52.45it/s]\u001B[A\n",
      "Validation DataLoader 0:  16%|██████████████████████▎                                                                                                                    | 78/485 [00:01<00:07, 52.47it/s]\u001B[A\n",
      "Validation DataLoader 0:  16%|██████████████████████▋                                                                                                                    | 79/485 [00:01<00:07, 52.48it/s]\u001B[A\n",
      "Validation DataLoader 0:  16%|██████████████████████▉                                                                                                                    | 80/485 [00:01<00:07, 52.49it/s]\u001B[A\n",
      "Validation DataLoader 0:  17%|███████████████████████▏                                                                                                                   | 81/485 [00:01<00:07, 52.53it/s]\u001B[A\n",
      "Validation DataLoader 0:  17%|███████████████████████▌                                                                                                                   | 82/485 [00:01<00:07, 52.55it/s]\u001B[A\n",
      "Validation DataLoader 0:  17%|███████████████████████▊                                                                                                                   | 83/485 [00:01<00:07, 52.56it/s]\u001B[A\n",
      "Validation DataLoader 0:  17%|████████████████████████                                                                                                                   | 84/485 [00:01<00:07, 52.57it/s]\u001B[A\n",
      "Validation DataLoader 0:  18%|████████████████████████▎                                                                                                                  | 85/485 [00:01<00:07, 52.57it/s]\u001B[A\n",
      "Validation DataLoader 0:  18%|████████████████████████▋                                                                                                                  | 86/485 [00:01<00:07, 52.57it/s]\u001B[A\n",
      "Validation DataLoader 0:  18%|████████████████████████▉                                                                                                                  | 87/485 [00:01<00:07, 52.59it/s]\u001B[A\n",
      "Validation DataLoader 0:  18%|█████████████████████████▏                                                                                                                 | 88/485 [00:01<00:07, 52.59it/s]\u001B[A\n",
      "Validation DataLoader 0:  18%|█████████████████████████▌                                                                                                                 | 89/485 [00:01<00:07, 52.60it/s]\u001B[A\n",
      "Validation DataLoader 0:  19%|█████████████████████████▊                                                                                                                 | 90/485 [00:01<00:07, 52.62it/s]\u001B[A\n",
      "Validation DataLoader 0:  19%|██████████████████████████                                                                                                                 | 91/485 [00:01<00:07, 52.64it/s]\u001B[A\n",
      "Validation DataLoader 0:  19%|██████████████████████████▎                                                                                                                | 92/485 [00:01<00:07, 52.66it/s]\u001B[A\n",
      "Validation DataLoader 0:  19%|██████████████████████████▋                                                                                                                | 93/485 [00:01<00:07, 52.70it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  19%|██████████████████████████▉                                                                                                                | 94/485 [00:01<00:07, 52.73it/s]\u001B[A\n",
      "Validation DataLoader 0:  20%|███████████████████████████▏                                                                                                               | 95/485 [00:01<00:07, 52.66it/s]\u001B[A\n",
      "Validation DataLoader 0:  20%|███████████████████████████▌                                                                                                               | 96/485 [00:01<00:07, 52.69it/s]\u001B[A\n",
      "Validation DataLoader 0:  20%|███████████████████████████▊                                                                                                               | 97/485 [00:01<00:07, 52.72it/s]\u001B[A\n",
      "Validation DataLoader 0:  20%|████████████████████████████                                                                                                               | 98/485 [00:01<00:07, 52.75it/s]\u001B[A\n",
      "Validation DataLoader 0:  20%|████████████████████████████▎                                                                                                              | 99/485 [00:01<00:07, 52.78it/s]\u001B[A\n",
      "Validation DataLoader 0:  21%|████████████████████████████▍                                                                                                             | 100/485 [00:01<00:07, 52.81it/s]\u001B[A\n",
      "Validation DataLoader 0:  21%|████████████████████████████▋                                                                                                             | 101/485 [00:01<00:07, 52.82it/s]\u001B[A\n",
      "Validation DataLoader 0:  21%|█████████████████████████████                                                                                                             | 102/485 [00:01<00:07, 52.83it/s]\u001B[A\n",
      "Validation DataLoader 0:  21%|█████████████████████████████▎                                                                                                            | 103/485 [00:01<00:07, 52.81it/s]\u001B[A\n",
      "Validation DataLoader 0:  21%|█████████████████████████████▌                                                                                                            | 104/485 [00:01<00:07, 52.80it/s]\u001B[A\n",
      "Validation DataLoader 0:  22%|█████████████████████████████▉                                                                                                            | 105/485 [00:01<00:07, 52.81it/s]\u001B[A\n",
      "Validation DataLoader 0:  22%|██████████████████████████████▏                                                                                                           | 106/485 [00:02<00:07, 52.80it/s]\u001B[A\n",
      "Validation DataLoader 0:  22%|██████████████████████████████▍                                                                                                           | 107/485 [00:02<00:07, 52.81it/s]\u001B[A\n",
      "Validation DataLoader 0:  22%|██████████████████████████████▋                                                                                                           | 108/485 [00:02<00:07, 52.83it/s]\u001B[A\n",
      "Validation DataLoader 0:  22%|███████████████████████████████                                                                                                           | 109/485 [00:02<00:07, 52.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  23%|███████████████████████████████▎                                                                                                          | 110/485 [00:02<00:07, 52.86it/s]\u001B[A\n",
      "Validation DataLoader 0:  23%|███████████████████████████████▌                                                                                                          | 111/485 [00:02<00:07, 52.87it/s]\u001B[A\n",
      "Validation DataLoader 0:  23%|███████████████████████████████▊                                                                                                          | 112/485 [00:02<00:07, 52.88it/s]\u001B[A\n",
      "Validation DataLoader 0:  23%|████████████████████████████████▏                                                                                                         | 113/485 [00:02<00:07, 52.90it/s]\u001B[A\n",
      "Validation DataLoader 0:  24%|████████████████████████████████▍                                                                                                         | 114/485 [00:02<00:07, 52.90it/s]\u001B[A\n",
      "Validation DataLoader 0:  24%|████████████████████████████████▋                                                                                                         | 115/485 [00:02<00:06, 52.90it/s]\u001B[A\n",
      "Validation DataLoader 0:  24%|█████████████████████████████████                                                                                                         | 116/485 [00:02<00:06, 52.90it/s]\u001B[A\n",
      "Validation DataLoader 0:  24%|█████████████████████████████████▎                                                                                                        | 117/485 [00:02<00:06, 52.91it/s]\u001B[A\n",
      "Validation DataLoader 0:  24%|█████████████████████████████████▌                                                                                                        | 118/485 [00:02<00:06, 52.90it/s]\u001B[A\n",
      "Validation DataLoader 0:  25%|█████████████████████████████████▊                                                                                                        | 119/485 [00:02<00:06, 52.89it/s]\u001B[A\n",
      "Validation DataLoader 0:  25%|██████████████████████████████████▏                                                                                                       | 120/485 [00:02<00:06, 52.86it/s]\u001B[A\n",
      "Validation DataLoader 0:  25%|██████████████████████████████████▍                                                                                                       | 121/485 [00:02<00:06, 52.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  25%|██████████████████████████████████▋                                                                                                       | 122/485 [00:02<00:06, 52.83it/s]\u001B[A\n",
      "Validation DataLoader 0:  25%|██████████████████████████████████▉                                                                                                       | 123/485 [00:02<00:06, 52.84it/s]\u001B[A\n",
      "Validation DataLoader 0:  26%|███████████████████████████████████▎                                                                                                      | 124/485 [00:02<00:06, 52.79it/s]\u001B[A\n",
      "Validation DataLoader 0:  26%|███████████████████████████████████▌                                                                                                      | 125/485 [00:02<00:06, 52.77it/s]\u001B[A\n",
      "Validation DataLoader 0:  26%|███████████████████████████████████▊                                                                                                      | 126/485 [00:02<00:06, 52.77it/s]\u001B[A\n",
      "Validation DataLoader 0:  26%|████████████████████████████████████▏                                                                                                     | 127/485 [00:02<00:06, 52.76it/s]\u001B[A\n",
      "Validation DataLoader 0:  26%|████████████████████████████████████▍                                                                                                     | 128/485 [00:02<00:06, 52.76it/s]\u001B[A\n",
      "Validation DataLoader 0:  27%|████████████████████████████████████▋                                                                                                     | 129/485 [00:02<00:06, 52.76it/s]\u001B[A\n",
      "Validation DataLoader 0:  27%|████████████████████████████████████▉                                                                                                     | 130/485 [00:02<00:06, 52.76it/s]\u001B[A\n",
      "Validation DataLoader 0:  27%|█████████████████████████████████████▎                                                                                                    | 131/485 [00:02<00:06, 52.76it/s]\u001B[A\n",
      "Validation DataLoader 0:  27%|█████████████████████████████████████▌                                                                                                    | 132/485 [00:02<00:06, 52.74it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  27%|█████████████████████████████████████▊                                                                                                    | 133/485 [00:02<00:06, 52.74it/s]\u001B[A\n",
      "Validation DataLoader 0:  28%|██████████████████████████████████████▏                                                                                                   | 134/485 [00:02<00:06, 52.72it/s]\u001B[A\n",
      "Validation DataLoader 0:  28%|██████████████████████████████████████▍                                                                                                   | 135/485 [00:02<00:06, 52.71it/s]\u001B[A\n",
      "Validation DataLoader 0:  28%|██████████████████████████████████████▋                                                                                                   | 136/485 [00:02<00:06, 52.69it/s]\u001B[A\n",
      "Validation DataLoader 0:  28%|██████████████████████████████████████▉                                                                                                   | 137/485 [00:02<00:06, 52.66it/s]\u001B[A\n",
      "Validation DataLoader 0:  28%|███████████████████████████████████████▎                                                                                                  | 138/485 [00:02<00:06, 52.62it/s]\u001B[A\n",
      "Validation DataLoader 0:  29%|███████████████████████████████████████▌                                                                                                  | 139/485 [00:02<00:06, 52.61it/s]\u001B[A\n",
      "Validation DataLoader 0:  29%|███████████████████████████████████████▊                                                                                                  | 140/485 [00:02<00:06, 52.60it/s]\u001B[A\n",
      "Validation DataLoader 0:  29%|████████████████████████████████████████                                                                                                  | 141/485 [00:02<00:06, 52.60it/s]\u001B[A\n",
      "Validation DataLoader 0:  29%|████████████████████████████████████████▍                                                                                                 | 142/485 [00:02<00:06, 52.58it/s]\u001B[A\n",
      "Validation DataLoader 0:  29%|████████████████████████████████████████▋                                                                                                 | 143/485 [00:02<00:06, 52.58it/s]\u001B[A\n",
      "Validation DataLoader 0:  30%|████████████████████████████████████████▉                                                                                                 | 144/485 [00:02<00:06, 52.58it/s]\u001B[A\n",
      "Validation DataLoader 0:  30%|█████████████████████████████████████████▎                                                                                                | 145/485 [00:02<00:06, 52.60it/s]\u001B[A\n",
      "Validation DataLoader 0:  30%|█████████████████████████████████████████▌                                                                                                | 146/485 [00:02<00:06, 52.61it/s]\u001B[A\n",
      "Validation DataLoader 0:  30%|█████████████████████████████████████████▊                                                                                                | 147/485 [00:02<00:06, 52.62it/s]\u001B[A\n",
      "Validation DataLoader 0:  31%|██████████████████████████████████████████                                                                                                | 148/485 [00:02<00:06, 52.62it/s]\u001B[A\n",
      "Validation DataLoader 0:  31%|██████████████████████████████████████████▍                                                                                               | 149/485 [00:02<00:06, 52.64it/s]\u001B[A\n",
      "Validation DataLoader 0:  31%|██████████████████████████████████████████▋                                                                                               | 150/485 [00:02<00:06, 52.65it/s]\u001B[A\n",
      "Validation DataLoader 0:  31%|██████████████████████████████████████████▉                                                                                               | 151/485 [00:02<00:06, 52.65it/s]\u001B[A\n",
      "Validation DataLoader 0:  31%|███████████████████████████████████████████▏                                                                                              | 152/485 [00:02<00:06, 52.67it/s]\u001B[A\n",
      "Validation DataLoader 0:  32%|███████████████████████████████████████████▌                                                                                              | 153/485 [00:02<00:06, 52.67it/s]\u001B[A\n",
      "Validation DataLoader 0:  32%|███████████████████████████████████████████▊                                                                                              | 154/485 [00:02<00:06, 52.59it/s]\u001B[A\n",
      "Validation DataLoader 0:  32%|████████████████████████████████████████████                                                                                              | 155/485 [00:02<00:06, 52.55it/s]\u001B[A\n",
      "Validation DataLoader 0:  32%|████████████████████████████████████████████▍                                                                                             | 156/485 [00:02<00:06, 52.53it/s]\u001B[A\n",
      "Validation DataLoader 0:  32%|████████████████████████████████████████████▋                                                                                             | 157/485 [00:02<00:06, 52.50it/s]\u001B[A\n",
      "Validation DataLoader 0:  33%|████████████████████████████████████████████▉                                                                                             | 158/485 [00:03<00:06, 52.50it/s]\u001B[A\n",
      "Validation DataLoader 0:  33%|█████████████████████████████████████████████▏                                                                                            | 159/485 [00:03<00:06, 52.49it/s]\u001B[A\n",
      "Validation DataLoader 0:  33%|█████████████████████████████████████████████▌                                                                                            | 160/485 [00:03<00:06, 52.49it/s]\u001B[A\n",
      "Validation DataLoader 0:  33%|█████████████████████████████████████████████▊                                                                                            | 161/485 [00:03<00:06, 52.48it/s]\u001B[A\n",
      "Validation DataLoader 0:  33%|██████████████████████████████████████████████                                                                                            | 162/485 [00:03<00:06, 52.48it/s]\u001B[A\n",
      "Validation DataLoader 0:  34%|██████████████████████████████████████████████▍                                                                                           | 163/485 [00:03<00:06, 52.49it/s]\u001B[A\n",
      "Validation DataLoader 0:  34%|██████████████████████████████████████████████▋                                                                                           | 164/485 [00:03<00:06, 52.49it/s]\u001B[A\n",
      "Validation DataLoader 0:  34%|██████████████████████████████████████████████▉                                                                                           | 165/485 [00:03<00:06, 52.51it/s]\u001B[A\n",
      "Validation DataLoader 0:  34%|███████████████████████████████████████████████▏                                                                                          | 166/485 [00:03<00:06, 52.53it/s]\u001B[A\n",
      "Validation DataLoader 0:  34%|███████████████████████████████████████████████▌                                                                                          | 167/485 [00:03<00:06, 52.54it/s]\u001B[A\n",
      "Validation DataLoader 0:  35%|███████████████████████████████████████████████▊                                                                                          | 168/485 [00:03<00:06, 52.57it/s]\u001B[A\n",
      "Validation DataLoader 0:  35%|████████████████████████████████████████████████                                                                                          | 169/485 [00:03<00:06, 52.58it/s]\u001B[A\n",
      "Validation DataLoader 0:  35%|████████████████████████████████████████████████▎                                                                                         | 170/485 [00:03<00:05, 52.59it/s]\u001B[A\n",
      "Validation DataLoader 0:  35%|████████████████████████████████████████████████▋                                                                                         | 171/485 [00:03<00:05, 52.60it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  35%|████████████████████████████████████████████████▉                                                                                         | 172/485 [00:03<00:05, 52.60it/s]\u001B[A\n",
      "Validation DataLoader 0:  36%|█████████████████████████████████████████████████▏                                                                                        | 173/485 [00:03<00:05, 52.61it/s]\u001B[A\n",
      "Validation DataLoader 0:  36%|█████████████████████████████████████████████████▌                                                                                        | 174/485 [00:03<00:05, 52.63it/s]\u001B[A\n",
      "Validation DataLoader 0:  36%|█████████████████████████████████████████████████▊                                                                                        | 175/485 [00:03<00:05, 52.65it/s]\u001B[A\n",
      "Validation DataLoader 0:  36%|██████████████████████████████████████████████████                                                                                        | 176/485 [00:03<00:05, 52.68it/s]\u001B[A\n",
      "Validation DataLoader 0:  36%|██████████████████████████████████████████████████▎                                                                                       | 177/485 [00:03<00:05, 52.66it/s]\u001B[A\n",
      "Validation DataLoader 0:  37%|██████████████████████████████████████████████████▋                                                                                       | 178/485 [00:03<00:05, 52.66it/s]\u001B[A\n",
      "Validation DataLoader 0:  37%|██████████████████████████████████████████████████▉                                                                                       | 179/485 [00:03<00:05, 52.66it/s]\u001B[A\n",
      "Validation DataLoader 0:  37%|███████████████████████████████████████████████████▏                                                                                      | 180/485 [00:03<00:05, 52.67it/s]\u001B[A\n",
      "Validation DataLoader 0:  37%|███████████████████████████████████████████████████▌                                                                                      | 181/485 [00:03<00:05, 52.68it/s]\u001B[A\n",
      "Validation DataLoader 0:  38%|███████████████████████████████████████████████████▊                                                                                      | 182/485 [00:03<00:05, 52.68it/s]\u001B[A\n",
      "Validation DataLoader 0:  38%|████████████████████████████████████████████████████                                                                                      | 183/485 [00:03<00:05, 52.68it/s]\u001B[A\n",
      "Validation DataLoader 0:  38%|████████████████████████████████████████████████████▎                                                                                     | 184/485 [00:03<00:05, 52.65it/s]\u001B[A\n",
      "Validation DataLoader 0:  38%|████████████████████████████████████████████████████▋                                                                                     | 185/485 [00:03<00:05, 52.65it/s]\u001B[A\n",
      "Validation DataLoader 0:  38%|████████████████████████████████████████████████████▉                                                                                     | 186/485 [00:03<00:05, 52.67it/s]\u001B[A\n",
      "Validation DataLoader 0:  39%|█████████████████████████████████████████████████████▏                                                                                    | 187/485 [00:03<00:05, 52.67it/s]\u001B[A\n",
      "Validation DataLoader 0:  39%|█████████████████████████████████████████████████████▍                                                                                    | 188/485 [00:03<00:05, 52.69it/s]\u001B[A\n",
      "Validation DataLoader 0:  39%|█████████████████████████████████████████████████████▊                                                                                    | 189/485 [00:03<00:05, 52.71it/s]\u001B[A\n",
      "Validation DataLoader 0:  39%|██████████████████████████████████████████████████████                                                                                    | 190/485 [00:03<00:05, 52.72it/s]\u001B[A\n",
      "Validation DataLoader 0:  39%|██████████████████████████████████████████████████████▎                                                                                   | 191/485 [00:03<00:05, 52.73it/s]\u001B[A\n",
      "Validation DataLoader 0:  40%|██████████████████████████████████████████████████████▋                                                                                   | 192/485 [00:03<00:05, 52.73it/s]\u001B[A\n",
      "Validation DataLoader 0:  40%|██████████████████████████████████████████████████████▉                                                                                   | 193/485 [00:03<00:05, 52.74it/s]\u001B[A\n",
      "Validation DataLoader 0:  40%|███████████████████████████████████████████████████████▏                                                                                  | 194/485 [00:03<00:05, 52.76it/s]\u001B[A\n",
      "Validation DataLoader 0:  40%|███████████████████████████████████████████████████████▍                                                                                  | 195/485 [00:03<00:05, 52.78it/s]\u001B[A\n",
      "Validation DataLoader 0:  40%|███████████████████████████████████████████████████████▊                                                                                  | 196/485 [00:03<00:05, 52.76it/s]\u001B[A\n",
      "Validation DataLoader 0:  41%|████████████████████████████████████████████████████████                                                                                  | 197/485 [00:03<00:05, 52.65it/s]\u001B[A\n",
      "Validation DataLoader 0:  41%|████████████████████████████████████████████████████████▎                                                                                 | 198/485 [00:03<00:05, 52.61it/s]\u001B[A\n",
      "Validation DataLoader 0:  41%|████████████████████████████████████████████████████████▌                                                                                 | 199/485 [00:03<00:05, 52.57it/s]\u001B[A\n",
      "Validation DataLoader 0:  41%|████████████████████████████████████████████████████████▉                                                                                 | 200/485 [00:03<00:05, 52.58it/s]\u001B[A\n",
      "Validation DataLoader 0:  41%|█████████████████████████████████████████████████████████▏                                                                                | 201/485 [00:03<00:05, 52.56it/s]\u001B[A\n",
      "Validation DataLoader 0:  42%|█████████████████████████████████████████████████████████▍                                                                                | 202/485 [00:03<00:05, 52.57it/s]\u001B[A\n",
      "Validation DataLoader 0:  42%|█████████████████████████████████████████████████████████▊                                                                                | 203/485 [00:03<00:05, 52.58it/s]\u001B[A\n",
      "Validation DataLoader 0:  42%|██████████████████████████████████████████████████████████                                                                                | 204/485 [00:03<00:05, 52.58it/s]\u001B[A\n",
      "Validation DataLoader 0:  42%|██████████████████████████████████████████████████████████▎                                                                               | 205/485 [00:03<00:05, 52.58it/s]\u001B[A\n",
      "Validation DataLoader 0:  42%|██████████████████████████████████████████████████████████▌                                                                               | 206/485 [00:03<00:05, 52.56it/s]\u001B[A\n",
      "Validation DataLoader 0:  43%|██████████████████████████████████████████████████████████▉                                                                               | 207/485 [00:03<00:05, 52.57it/s]\u001B[A\n",
      "Validation DataLoader 0:  43%|███████████████████████████████████████████████████████████▏                                                                              | 208/485 [00:03<00:05, 52.58it/s]\u001B[A\n",
      "Validation DataLoader 0:  43%|███████████████████████████████████████████████████████████▍                                                                              | 209/485 [00:03<00:05, 52.59it/s]\u001B[A\n",
      "Validation DataLoader 0:  43%|███████████████████████████████████████████████████████████▊                                                                              | 210/485 [00:03<00:05, 52.59it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  44%|████████████████████████████████████████████████████████████                                                                              | 211/485 [00:04<00:05, 52.60it/s]\u001B[A\n",
      "Validation DataLoader 0:  44%|████████████████████████████████████████████████████████████▎                                                                             | 212/485 [00:04<00:05, 52.60it/s]\u001B[A\n",
      "Validation DataLoader 0:  44%|████████████████████████████████████████████████████████████▌                                                                             | 213/485 [00:04<00:05, 52.61it/s]\u001B[A\n",
      "Validation DataLoader 0:  44%|████████████████████████████████████████████████████████████▉                                                                             | 214/485 [00:04<00:05, 52.62it/s]\u001B[A\n",
      "Validation DataLoader 0:  44%|█████████████████████████████████████████████████████████████▏                                                                            | 215/485 [00:04<00:05, 52.64it/s]\u001B[A\n",
      "Validation DataLoader 0:  45%|█████████████████████████████████████████████████████████████▍                                                                            | 216/485 [00:04<00:05, 52.65it/s]\u001B[A\n",
      "Validation DataLoader 0:  45%|█████████████████████████████████████████████████████████████▋                                                                            | 217/485 [00:04<00:05, 52.66it/s]\u001B[A\n",
      "Validation DataLoader 0:  45%|██████████████████████████████████████████████████████████████                                                                            | 218/485 [00:04<00:05, 52.67it/s]\u001B[A\n",
      "Validation DataLoader 0:  45%|██████████████████████████████████████████████████████████████▎                                                                           | 219/485 [00:04<00:05, 52.68it/s]\u001B[A\n",
      "Validation DataLoader 0:  45%|██████████████████████████████████████████████████████████████▌                                                                           | 220/485 [00:04<00:05, 52.69it/s]\u001B[A\n",
      "Validation DataLoader 0:  46%|██████████████████████████████████████████████████████████████▉                                                                           | 221/485 [00:04<00:05, 52.69it/s]\u001B[A\n",
      "Validation DataLoader 0:  46%|███████████████████████████████████████████████████████████████▏                                                                          | 222/485 [00:04<00:04, 52.70it/s]\u001B[A\n",
      "Validation DataLoader 0:  46%|███████████████████████████████████████████████████████████████▍                                                                          | 223/485 [00:04<00:04, 52.70it/s]\u001B[A\n",
      "Validation DataLoader 0:  46%|███████████████████████████████████████████████████████████████▋                                                                          | 224/485 [00:04<00:04, 52.70it/s]\u001B[A\n",
      "Validation DataLoader 0:  46%|████████████████████████████████████████████████████████████████                                                                          | 225/485 [00:04<00:04, 52.67it/s]\u001B[A\n",
      "Validation DataLoader 0:  47%|████████████████████████████████████████████████████████████████▎                                                                         | 226/485 [00:04<00:04, 52.68it/s]\u001B[A\n",
      "Validation DataLoader 0:  47%|████████████████████████████████████████████████████████████████▌                                                                         | 227/485 [00:04<00:04, 52.68it/s]\u001B[A\n",
      "Validation DataLoader 0:  47%|████████████████████████████████████████████████████████████████▊                                                                         | 228/485 [00:04<00:04, 52.69it/s]\u001B[A\n",
      "Validation DataLoader 0:  47%|█████████████████████████████████████████████████████████████████▏                                                                        | 229/485 [00:04<00:04, 52.70it/s]\u001B[A\n",
      "Validation DataLoader 0:  47%|█████████████████████████████████████████████████████████████████▍                                                                        | 230/485 [00:04<00:04, 52.70it/s]\u001B[A\n",
      "Validation DataLoader 0:  48%|█████████████████████████████████████████████████████████████████▋                                                                        | 231/485 [00:04<00:04, 52.70it/s]\u001B[A\n",
      "Validation DataLoader 0:  48%|██████████████████████████████████████████████████████████████████                                                                        | 232/485 [00:04<00:04, 52.69it/s]\u001B[A\n",
      "Validation DataLoader 0:  48%|██████████████████████████████████████████████████████████████████▎                                                                       | 233/485 [00:04<00:04, 52.70it/s]\u001B[A\n",
      "Validation DataLoader 0:  48%|██████████████████████████████████████████████████████████████████▌                                                                       | 234/485 [00:04<00:04, 52.69it/s]\u001B[A\n",
      "Validation DataLoader 0:  48%|██████████████████████████████████████████████████████████████████▊                                                                       | 235/485 [00:04<00:04, 52.69it/s]\u001B[A\n",
      "Validation DataLoader 0:  49%|███████████████████████████████████████████████████████████████████▏                                                                      | 236/485 [00:04<00:04, 52.70it/s]\u001B[A\n",
      "Validation DataLoader 0:  49%|███████████████████████████████████████████████████████████████████▍                                                                      | 237/485 [00:04<00:04, 52.69it/s]\u001B[A\n",
      "Validation DataLoader 0:  49%|███████████████████████████████████████████████████████████████████▋                                                                      | 238/485 [00:04<00:04, 52.69it/s]\u001B[A\n",
      "Validation DataLoader 0:  49%|████████████████████████████████████████████████████████████████████                                                                      | 239/485 [00:04<00:04, 52.70it/s]\u001B[A\n",
      "Validation DataLoader 0:  49%|████████████████████████████████████████████████████████████████████▎                                                                     | 240/485 [00:04<00:04, 52.71it/s]\u001B[A\n",
      "Validation DataLoader 0:  50%|████████████████████████████████████████████████████████████████████▌                                                                     | 241/485 [00:04<00:04, 52.69it/s]\u001B[A\n",
      "Validation DataLoader 0:  50%|████████████████████████████████████████████████████████████████████▊                                                                     | 242/485 [00:04<00:04, 52.71it/s]\u001B[A\n",
      "Validation DataLoader 0:  50%|█████████████████████████████████████████████████████████████████████▏                                                                    | 243/485 [00:04<00:04, 52.71it/s]\u001B[A\n",
      "Validation DataLoader 0:  50%|█████████████████████████████████████████████████████████████████████▍                                                                    | 244/485 [00:04<00:04, 52.72it/s]\u001B[A\n",
      "Validation DataLoader 0:  51%|█████████████████████████████████████████████████████████████████████▋                                                                    | 245/485 [00:04<00:04, 52.71it/s]\u001B[A\n",
      "Validation DataLoader 0:  51%|█████████████████████████████████████████████████████████████████████▉                                                                    | 246/485 [00:04<00:04, 52.70it/s]\u001B[A\n",
      "Validation DataLoader 0:  51%|██████████████████████████████████████████████████████████████████████▎                                                                   | 247/485 [00:04<00:04, 52.71it/s]\u001B[A\n",
      "Validation DataLoader 0:  51%|██████████████████████████████████████████████████████████████████████▌                                                                   | 248/485 [00:04<00:04, 52.69it/s]\u001B[A\n",
      "Validation DataLoader 0:  51%|██████████████████████████████████████████████████████████████████████▊                                                                   | 249/485 [00:04<00:04, 52.68it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  52%|███████████████████████████████████████████████████████████████████████▏                                                                  | 250/485 [00:04<00:04, 52.69it/s]\u001B[A\n",
      "Validation DataLoader 0:  52%|███████████████████████████████████████████████████████████████████████▍                                                                  | 251/485 [00:04<00:04, 52.70it/s]\u001B[A\n",
      "Validation DataLoader 0:  52%|███████████████████████████████████████████████████████████████████████▋                                                                  | 252/485 [00:04<00:04, 52.71it/s]\u001B[A\n",
      "Validation DataLoader 0:  52%|███████████████████████████████████████████████████████████████████████▉                                                                  | 253/485 [00:04<00:04, 52.72it/s]\u001B[A\n",
      "Validation DataLoader 0:  52%|████████████████████████████████████████████████████████████████████████▎                                                                 | 254/485 [00:04<00:04, 52.73it/s]\u001B[A\n",
      "Validation DataLoader 0:  53%|████████████████████████████████████████████████████████████████████████▌                                                                 | 255/485 [00:04<00:04, 52.74it/s]\u001B[A\n",
      "Validation DataLoader 0:  53%|████████████████████████████████████████████████████████████████████████▊                                                                 | 256/485 [00:04<00:04, 52.75it/s]\u001B[A\n",
      "Validation DataLoader 0:  53%|█████████████████████████████████████████████████████████████████████████▏                                                                | 257/485 [00:04<00:04, 52.76it/s]\u001B[A\n",
      "Validation DataLoader 0:  53%|█████████████████████████████████████████████████████████████████████████▍                                                                | 258/485 [00:04<00:04, 52.76it/s]\u001B[A\n",
      "Validation DataLoader 0:  53%|█████████████████████████████████████████████████████████████████████████▋                                                                | 259/485 [00:04<00:04, 52.75it/s]\u001B[A\n",
      "Validation DataLoader 0:  54%|█████████████████████████████████████████████████████████████████████████▉                                                                | 260/485 [00:04<00:04, 52.76it/s]\u001B[A\n",
      "Validation DataLoader 0:  54%|██████████████████████████████████████████████████████████████████████████▎                                                               | 261/485 [00:04<00:04, 52.77it/s]\u001B[A\n",
      "Validation DataLoader 0:  54%|██████████████████████████████████████████████████████████████████████████▌                                                               | 262/485 [00:04<00:04, 52.77it/s]\u001B[A\n",
      "Validation DataLoader 0:  54%|██████████████████████████████████████████████████████████████████████████▊                                                               | 263/485 [00:04<00:04, 52.77it/s]\u001B[A\n",
      "Validation DataLoader 0:  54%|███████████████████████████████████████████████████████████████████████████                                                               | 264/485 [00:05<00:04, 52.77it/s]\u001B[A\n",
      "Validation DataLoader 0:  55%|███████████████████████████████████████████████████████████████████████████▍                                                              | 265/485 [00:05<00:04, 52.77it/s]\u001B[A\n",
      "Validation DataLoader 0:  55%|███████████████████████████████████████████████████████████████████████████▋                                                              | 266/485 [00:05<00:04, 52.78it/s]\u001B[A\n",
      "Validation DataLoader 0:  55%|███████████████████████████████████████████████████████████████████████████▉                                                              | 267/485 [00:05<00:04, 52.79it/s]\u001B[A\n",
      "Validation DataLoader 0:  55%|████████████████████████████████████████████████████████████████████████████▎                                                             | 268/485 [00:05<00:04, 52.80it/s]\u001B[A\n",
      "Validation DataLoader 0:  55%|████████████████████████████████████████████████████████████████████████████▌                                                             | 269/485 [00:05<00:04, 52.79it/s]\u001B[A\n",
      "Validation DataLoader 0:  56%|████████████████████████████████████████████████████████████████████████████▊                                                             | 270/485 [00:05<00:04, 52.78it/s]\u001B[A\n",
      "Validation DataLoader 0:  56%|█████████████████████████████████████████████████████████████████████████████                                                             | 271/485 [00:05<00:04, 52.79it/s]\u001B[A\n",
      "Validation DataLoader 0:  56%|█████████████████████████████████████████████████████████████████████████████▍                                                            | 272/485 [00:05<00:04, 52.79it/s]\u001B[A\n",
      "Validation DataLoader 0:  56%|█████████████████████████████████████████████████████████████████████████████▋                                                            | 273/485 [00:05<00:04, 52.79it/s]\u001B[A\n",
      "Validation DataLoader 0:  56%|█████████████████████████████████████████████████████████████████████████████▉                                                            | 274/485 [00:05<00:03, 52.80it/s]\u001B[A\n",
      "Validation DataLoader 0:  57%|██████████████████████████████████████████████████████████████████████████████▏                                                           | 275/485 [00:05<00:03, 52.80it/s]\u001B[A\n",
      "Validation DataLoader 0:  57%|██████████████████████████████████████████████████████████████████████████████▌                                                           | 276/485 [00:05<00:03, 52.81it/s]\u001B[A\n",
      "Validation DataLoader 0:  57%|██████████████████████████████████████████████████████████████████████████████▊                                                           | 277/485 [00:05<00:03, 52.81it/s]\u001B[A\n",
      "Validation DataLoader 0:  57%|███████████████████████████████████████████████████████████████████████████████                                                           | 278/485 [00:05<00:03, 52.82it/s]\u001B[A\n",
      "Validation DataLoader 0:  58%|███████████████████████████████████████████████████████████████████████████████▍                                                          | 279/485 [00:05<00:03, 52.81it/s]\u001B[A\n",
      "Validation DataLoader 0:  58%|███████████████████████████████████████████████████████████████████████████████▋                                                          | 280/485 [00:05<00:03, 52.73it/s]\u001B[A\n",
      "Validation DataLoader 0:  58%|███████████████████████████████████████████████████████████████████████████████▉                                                          | 281/485 [00:05<00:03, 52.68it/s]\u001B[A\n",
      "Validation DataLoader 0:  58%|████████████████████████████████████████████████████████████████████████████████▏                                                         | 282/485 [00:05<00:03, 52.67it/s]\u001B[A\n",
      "Validation DataLoader 0:  58%|████████████████████████████████████████████████████████████████████████████████▌                                                         | 283/485 [00:05<00:03, 52.67it/s]\u001B[A\n",
      "Validation DataLoader 0:  59%|████████████████████████████████████████████████████████████████████████████████▊                                                         | 284/485 [00:05<00:03, 52.67it/s]\u001B[A\n",
      "Validation DataLoader 0:  59%|█████████████████████████████████████████████████████████████████████████████████                                                         | 285/485 [00:05<00:03, 52.68it/s]\u001B[A\n",
      "Validation DataLoader 0:  59%|█████████████████████████████████████████████████████████████████████████████████▍                                                        | 286/485 [00:05<00:03, 52.69it/s]\u001B[A\n",
      "Validation DataLoader 0:  59%|█████████████████████████████████████████████████████████████████████████████████▋                                                        | 287/485 [00:05<00:03, 52.70it/s]\u001B[A\n",
      "Validation DataLoader 0:  59%|█████████████████████████████████████████████████████████████████████████████████▉                                                        | 288/485 [00:05<00:03, 52.71it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  60%|██████████████████████████████████████████████████████████████████████████████████▏                                                       | 289/485 [00:05<00:03, 52.73it/s]\u001B[A\n",
      "Validation DataLoader 0:  60%|██████████████████████████████████████████████████████████████████████████████████▌                                                       | 290/485 [00:05<00:03, 52.73it/s]\u001B[A\n",
      "Validation DataLoader 0:  60%|██████████████████████████████████████████████████████████████████████████████████▊                                                       | 291/485 [00:05<00:03, 52.74it/s]\u001B[A\n",
      "Validation DataLoader 0:  60%|███████████████████████████████████████████████████████████████████████████████████                                                       | 292/485 [00:05<00:03, 52.74it/s]\u001B[A\n",
      "Validation DataLoader 0:  60%|███████████████████████████████████████████████████████████████████████████████████▎                                                      | 293/485 [00:05<00:03, 52.74it/s]\u001B[A\n",
      "Validation DataLoader 0:  61%|███████████████████████████████████████████████████████████████████████████████████▋                                                      | 294/485 [00:05<00:03, 52.74it/s]\u001B[A\n",
      "Validation DataLoader 0:  61%|███████████████████████████████████████████████████████████████████████████████████▉                                                      | 295/485 [00:05<00:03, 52.73it/s]\u001B[A\n",
      "Validation DataLoader 0:  61%|████████████████████████████████████████████████████████████████████████████████████▏                                                     | 296/485 [00:05<00:03, 52.74it/s]\u001B[A\n",
      "Validation DataLoader 0:  61%|████████████████████████████████████████████████████████████████████████████████████▌                                                     | 297/485 [00:05<00:03, 52.74it/s]\u001B[A\n",
      "Validation DataLoader 0:  61%|████████████████████████████████████████████████████████████████████████████████████▊                                                     | 298/485 [00:05<00:03, 52.74it/s]\u001B[A\n",
      "Validation DataLoader 0:  62%|█████████████████████████████████████████████████████████████████████████████████████                                                     | 299/485 [00:05<00:03, 52.75it/s]\u001B[A\n",
      "Validation DataLoader 0:  62%|█████████████████████████████████████████████████████████████████████████████████████▎                                                    | 300/485 [00:05<00:03, 52.75it/s]\u001B[A\n",
      "Validation DataLoader 0:  62%|█████████████████████████████████████████████████████████████████████████████████████▋                                                    | 301/485 [00:05<00:03, 52.74it/s]\u001B[A\n",
      "Validation DataLoader 0:  62%|█████████████████████████████████████████████████████████████████████████████████████▉                                                    | 302/485 [00:05<00:03, 52.74it/s]\u001B[A\n",
      "Validation DataLoader 0:  62%|██████████████████████████████████████████████████████████████████████████████████████▏                                                   | 303/485 [00:05<00:03, 52.75it/s]\u001B[A\n",
      "Validation DataLoader 0:  63%|██████████████████████████████████████████████████████████████████████████████████████▍                                                   | 304/485 [00:05<00:03, 52.75it/s]\u001B[A\n",
      "Validation DataLoader 0:  63%|██████████████████████████████████████████████████████████████████████████████████████▊                                                   | 305/485 [00:05<00:03, 52.75it/s]\u001B[A\n",
      "Validation DataLoader 0:  63%|███████████████████████████████████████████████████████████████████████████████████████                                                   | 306/485 [00:05<00:03, 52.75it/s]\u001B[A\n",
      "Validation DataLoader 0:  63%|███████████████████████████████████████████████████████████████████████████████████████▎                                                  | 307/485 [00:05<00:03, 52.76it/s]\u001B[A\n",
      "Validation DataLoader 0:  64%|███████████████████████████████████████████████████████████████████████████████████████▋                                                  | 308/485 [00:05<00:03, 52.74it/s]\u001B[A\n",
      "Validation DataLoader 0:  64%|███████████████████████████████████████████████████████████████████████████████████████▉                                                  | 309/485 [00:05<00:03, 52.74it/s]\u001B[A\n",
      "Validation DataLoader 0:  64%|████████████████████████████████████████████████████████████████████████████████████████▏                                                 | 310/485 [00:05<00:03, 52.74it/s]\u001B[A\n",
      "Validation DataLoader 0:  64%|████████████████████████████████████████████████████████████████████████████████████████▍                                                 | 311/485 [00:05<00:03, 52.75it/s]\u001B[A\n",
      "Validation DataLoader 0:  64%|████████████████████████████████████████████████████████████████████████████████████████▊                                                 | 312/485 [00:05<00:03, 52.76it/s]\u001B[A\n",
      "Validation DataLoader 0:  65%|█████████████████████████████████████████████████████████████████████████████████████████                                                 | 313/485 [00:05<00:03, 52.76it/s]\u001B[A\n",
      "Validation DataLoader 0:  65%|█████████████████████████████████████████████████████████████████████████████████████████▎                                                | 314/485 [00:05<00:03, 52.76it/s]\u001B[A\n",
      "Validation DataLoader 0:  65%|█████████████████████████████████████████████████████████████████████████████████████████▋                                                | 315/485 [00:05<00:03, 52.76it/s]\u001B[A\n",
      "Validation DataLoader 0:  65%|█████████████████████████████████████████████████████████████████████████████████████████▉                                                | 316/485 [00:05<00:03, 52.77it/s]\u001B[A\n",
      "Validation DataLoader 0:  65%|██████████████████████████████████████████████████████████████████████████████████████████▏                                               | 317/485 [00:06<00:03, 52.78it/s]\u001B[A\n",
      "Validation DataLoader 0:  66%|██████████████████████████████████████████████████████████████████████████████████████████▍                                               | 318/485 [00:06<00:03, 52.77it/s]\u001B[A\n",
      "Validation DataLoader 0:  66%|██████████████████████████████████████████████████████████████████████████████████████████▊                                               | 319/485 [00:06<00:03, 52.78it/s]\u001B[A\n",
      "Validation DataLoader 0:  66%|███████████████████████████████████████████████████████████████████████████████████████████                                               | 320/485 [00:06<00:03, 52.79it/s]\u001B[A\n",
      "Validation DataLoader 0:  66%|███████████████████████████████████████████████████████████████████████████████████████████▎                                              | 321/485 [00:06<00:03, 52.79it/s]\u001B[A\n",
      "Validation DataLoader 0:  66%|███████████████████████████████████████████████████████████████████████████████████████████▌                                              | 322/485 [00:06<00:03, 52.79it/s]\u001B[A\n",
      "Validation DataLoader 0:  67%|███████████████████████████████████████████████████████████████████████████████████████████▉                                              | 323/485 [00:06<00:03, 52.80it/s]\u001B[A\n",
      "Validation DataLoader 0:  67%|████████████████████████████████████████████████████████████████████████████████████████████▏                                             | 324/485 [00:06<00:03, 52.80it/s]\u001B[A\n",
      "Validation DataLoader 0:  67%|████████████████████████████████████████████████████████████████████████████████████████████▍                                             | 325/485 [00:06<00:03, 52.81it/s]\u001B[A\n",
      "Validation DataLoader 0:  67%|████████████████████████████████████████████████████████████████████████████████████████████▊                                             | 326/485 [00:06<00:03, 52.81it/s]\u001B[A\n",
      "Validation DataLoader 0:  67%|█████████████████████████████████████████████████████████████████████████████████████████████                                             | 327/485 [00:06<00:02, 52.82it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  68%|█████████████████████████████████████████████████████████████████████████████████████████████▎                                            | 328/485 [00:06<00:02, 52.83it/s]\u001B[A\n",
      "Validation DataLoader 0:  68%|█████████████████████████████████████████████████████████████████████████████████████████████▌                                            | 329/485 [00:06<00:02, 52.84it/s]\u001B[A\n",
      "Validation DataLoader 0:  68%|█████████████████████████████████████████████████████████████████████████████████████████████▉                                            | 330/485 [00:06<00:02, 52.83it/s]\u001B[A\n",
      "Validation DataLoader 0:  68%|██████████████████████████████████████████████████████████████████████████████████████████████▏                                           | 331/485 [00:06<00:02, 52.77it/s]\u001B[A\n",
      "Validation DataLoader 0:  68%|██████████████████████████████████████████████████████████████████████████████████████████████▍                                           | 332/485 [00:06<00:02, 52.77it/s]\u001B[A\n",
      "Validation DataLoader 0:  69%|██████████████████████████████████████████████████████████████████████████████████████████████▊                                           | 333/485 [00:06<00:02, 52.77it/s]\u001B[A\n",
      "Validation DataLoader 0:  69%|███████████████████████████████████████████████████████████████████████████████████████████████                                           | 334/485 [00:06<00:02, 52.78it/s]\u001B[A\n",
      "Validation DataLoader 0:  69%|███████████████████████████████████████████████████████████████████████████████████████████████▎                                          | 335/485 [00:06<00:02, 52.79it/s]\u001B[A\n",
      "Validation DataLoader 0:  69%|███████████████████████████████████████████████████████████████████████████████████████████████▌                                          | 336/485 [00:06<00:02, 52.79it/s]\u001B[A\n",
      "Validation DataLoader 0:  69%|███████████████████████████████████████████████████████████████████████████████████████████████▉                                          | 337/485 [00:06<00:02, 52.81it/s]\u001B[A\n",
      "Validation DataLoader 0:  70%|████████████████████████████████████████████████████████████████████████████████████████████████▏                                         | 338/485 [00:06<00:02, 52.80it/s]\u001B[A\n",
      "Validation DataLoader 0:  70%|████████████████████████████████████████████████████████████████████████████████████████████████▍                                         | 339/485 [00:06<00:02, 52.78it/s]\u001B[A\n",
      "Validation DataLoader 0:  70%|████████████████████████████████████████████████████████████████████████████████████████████████▋                                         | 340/485 [00:06<00:02, 52.79it/s]\u001B[A\n",
      "Validation DataLoader 0:  70%|█████████████████████████████████████████████████████████████████████████████████████████████████                                         | 341/485 [00:06<00:02, 52.79it/s]\u001B[A\n",
      "Validation DataLoader 0:  71%|█████████████████████████████████████████████████████████████████████████████████████████████████▎                                        | 342/485 [00:06<00:02, 52.80it/s]\u001B[A\n",
      "Validation DataLoader 0:  71%|█████████████████████████████████████████████████████████████████████████████████████████████████▌                                        | 343/485 [00:06<00:02, 52.80it/s]\u001B[A\n",
      "Validation DataLoader 0:  71%|█████████████████████████████████████████████████████████████████████████████████████████████████▉                                        | 344/485 [00:06<00:02, 52.79it/s]\u001B[A\n",
      "Validation DataLoader 0:  71%|██████████████████████████████████████████████████████████████████████████████████████████████████▏                                       | 345/485 [00:06<00:02, 52.79it/s]\u001B[A\n",
      "Validation DataLoader 0:  71%|██████████████████████████████████████████████████████████████████████████████████████████████████▍                                       | 346/485 [00:06<00:02, 52.79it/s]\u001B[A\n",
      "Validation DataLoader 0:  72%|██████████████████████████████████████████████████████████████████████████████████████████████████▋                                       | 347/485 [00:06<00:02, 52.80it/s]\u001B[A\n",
      "Validation DataLoader 0:  72%|███████████████████████████████████████████████████████████████████████████████████████████████████                                       | 348/485 [00:06<00:02, 52.80it/s]\u001B[A\n",
      "Validation DataLoader 0:  72%|███████████████████████████████████████████████████████████████████████████████████████████████████▎                                      | 349/485 [00:06<00:02, 52.79it/s]\u001B[A\n",
      "Validation DataLoader 0:  72%|███████████████████████████████████████████████████████████████████████████████████████████████████▌                                      | 350/485 [00:06<00:02, 52.80it/s]\u001B[A\n",
      "Validation DataLoader 0:  72%|███████████████████████████████████████████████████████████████████████████████████████████████████▊                                      | 351/485 [00:06<00:02, 52.78it/s]\u001B[A\n",
      "Validation DataLoader 0:  73%|████████████████████████████████████████████████████████████████████████████████████████████████████▏                                     | 352/485 [00:06<00:02, 52.78it/s]\u001B[A\n",
      "Validation DataLoader 0:  73%|████████████████████████████████████████████████████████████████████████████████████████████████████▍                                     | 353/485 [00:06<00:02, 52.79it/s]\u001B[A\n",
      "Validation DataLoader 0:  73%|████████████████████████████████████████████████████████████████████████████████████████████████████▋                                     | 354/485 [00:06<00:02, 52.79it/s]\u001B[A\n",
      "Validation DataLoader 0:  73%|█████████████████████████████████████████████████████████████████████████████████████████████████████                                     | 355/485 [00:06<00:02, 52.80it/s]\u001B[A\n",
      "Validation DataLoader 0:  73%|█████████████████████████████████████████████████████████████████████████████████████████████████████▎                                    | 356/485 [00:06<00:02, 52.80it/s]\u001B[A\n",
      "Validation DataLoader 0:  74%|█████████████████████████████████████████████████████████████████████████████████████████████████████▌                                    | 357/485 [00:06<00:02, 52.79it/s]\u001B[A\n",
      "Validation DataLoader 0:  74%|█████████████████████████████████████████████████████████████████████████████████████████████████████▊                                    | 358/485 [00:06<00:02, 52.79it/s]\u001B[A\n",
      "Validation DataLoader 0:  74%|██████████████████████████████████████████████████████████████████████████████████████████████████████▏                                   | 359/485 [00:06<00:02, 52.80it/s]\u001B[A\n",
      "Validation DataLoader 0:  74%|██████████████████████████████████████████████████████████████████████████████████████████████████████▍                                   | 360/485 [00:06<00:02, 52.80it/s]\u001B[A\n",
      "Validation DataLoader 0:  74%|██████████████████████████████████████████████████████████████████████████████████████████████████████▋                                   | 361/485 [00:06<00:02, 52.80it/s]\u001B[A\n",
      "Validation DataLoader 0:  75%|███████████████████████████████████████████████████████████████████████████████████████████████████████                                   | 362/485 [00:06<00:02, 52.80it/s]\u001B[A\n",
      "Validation DataLoader 0:  75%|███████████████████████████████████████████████████████████████████████████████████████████████████████▎                                  | 363/485 [00:06<00:02, 52.78it/s]\u001B[A\n",
      "Validation DataLoader 0:  75%|███████████████████████████████████████████████████████████████████████████████████████████████████████▌                                  | 364/485 [00:06<00:02, 52.78it/s]\u001B[A\n",
      "Validation DataLoader 0:  75%|███████████████████████████████████████████████████████████████████████████████████████████████████████▊                                  | 365/485 [00:06<00:02, 52.77it/s]\u001B[A\n",
      "Validation DataLoader 0:  75%|████████████████████████████████████████████████████████████████████████████████████████████████████████▏                                 | 366/485 [00:06<00:02, 52.76it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  76%|████████████████████████████████████████████████████████████████████████████████████████████████████████▍                                 | 367/485 [00:06<00:02, 52.76it/s]\u001B[A\n",
      "Validation DataLoader 0:  76%|████████████████████████████████████████████████████████████████████████████████████████████████████████▋                                 | 368/485 [00:06<00:02, 52.76it/s]\u001B[A\n",
      "Validation DataLoader 0:  76%|████████████████████████████████████████████████████████████████████████████████████████████████████████▉                                 | 369/485 [00:06<00:02, 52.77it/s]\u001B[A\n",
      "Validation DataLoader 0:  76%|█████████████████████████████████████████████████████████████████████████████████████████████████████████▎                                | 370/485 [00:07<00:02, 52.77it/s]\u001B[A\n",
      "Validation DataLoader 0:  76%|█████████████████████████████████████████████████████████████████████████████████████████████████████████▌                                | 371/485 [00:07<00:02, 52.76it/s]\u001B[A\n",
      "Validation DataLoader 0:  77%|█████████████████████████████████████████████████████████████████████████████████████████████████████████▊                                | 372/485 [00:07<00:02, 52.76it/s]\u001B[A\n",
      "Validation DataLoader 0:  77%|██████████████████████████████████████████████████████████████████████████████████████████████████████████▏                               | 373/485 [00:07<00:02, 52.76it/s]\u001B[A\n",
      "Validation DataLoader 0:  77%|██████████████████████████████████████████████████████████████████████████████████████████████████████████▍                               | 374/485 [00:07<00:02, 52.76it/s]\u001B[A\n",
      "Validation DataLoader 0:  77%|██████████████████████████████████████████████████████████████████████████████████████████████████████████▋                               | 375/485 [00:07<00:02, 52.76it/s]\u001B[A\n",
      "Validation DataLoader 0:  78%|██████████████████████████████████████████████████████████████████████████████████████████████████████████▉                               | 376/485 [00:07<00:02, 52.77it/s]\u001B[A\n",
      "Validation DataLoader 0:  78%|███████████████████████████████████████████████████████████████████████████████████████████████████████████▎                              | 377/485 [00:07<00:02, 52.76it/s]\u001B[A\n",
      "Validation DataLoader 0:  78%|███████████████████████████████████████████████████████████████████████████████████████████████████████████▌                              | 378/485 [00:07<00:02, 52.75it/s]\u001B[A\n",
      "Validation DataLoader 0:  78%|███████████████████████████████████████████████████████████████████████████████████████████████████████████▊                              | 379/485 [00:07<00:02, 52.75it/s]\u001B[A\n",
      "Validation DataLoader 0:  78%|████████████████████████████████████████████████████████████████████████████████████████████████████████████                              | 380/485 [00:07<00:01, 52.75it/s]\u001B[A\n",
      "Validation DataLoader 0:  79%|████████████████████████████████████████████████████████████████████████████████████████████████████████████▍                             | 381/485 [00:07<00:01, 52.73it/s]\u001B[A\n",
      "Validation DataLoader 0:  79%|████████████████████████████████████████████████████████████████████████████████████████████████████████████▋                             | 382/485 [00:07<00:01, 52.73it/s]\u001B[A\n",
      "Validation DataLoader 0:  79%|████████████████████████████████████████████████████████████████████████████████████████████████████████████▉                             | 383/485 [00:07<00:01, 52.72it/s]\u001B[A\n",
      "Validation DataLoader 0:  79%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████▎                            | 384/485 [00:07<00:01, 52.72it/s]\u001B[A\n",
      "Validation DataLoader 0:  79%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████▌                            | 385/485 [00:07<00:01, 52.70it/s]\u001B[A\n",
      "Validation DataLoader 0:  80%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████▊                            | 386/485 [00:07<00:01, 52.70it/s]\u001B[A\n",
      "Validation DataLoader 0:  80%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████                            | 387/485 [00:07<00:01, 52.69it/s]\u001B[A\n",
      "Validation DataLoader 0:  80%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████▍                           | 388/485 [00:07<00:01, 52.64it/s]\u001B[A\n",
      "Validation DataLoader 0:  80%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████▋                           | 389/485 [00:07<00:01, 52.61it/s]\u001B[A\n",
      "Validation DataLoader 0:  80%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████▉                           | 390/485 [00:07<00:01, 52.61it/s]\u001B[A\n",
      "Validation DataLoader 0:  81%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████▎                          | 391/485 [00:07<00:01, 52.62it/s]\u001B[A\n",
      "Validation DataLoader 0:  81%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████▌                          | 392/485 [00:07<00:01, 52.63it/s]\u001B[A\n",
      "Validation DataLoader 0:  81%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████▊                          | 393/485 [00:07<00:01, 52.63it/s]\u001B[A\n",
      "Validation DataLoader 0:  81%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████                          | 394/485 [00:07<00:01, 52.64it/s]\u001B[A\n",
      "Validation DataLoader 0:  81%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍                         | 395/485 [00:07<00:01, 52.65it/s]\u001B[A\n",
      "Validation DataLoader 0:  82%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋                         | 396/485 [00:07<00:01, 52.65it/s]\u001B[A\n",
      "Validation DataLoader 0:  82%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉                         | 397/485 [00:07<00:01, 52.65it/s]\u001B[A\n",
      "Validation DataLoader 0:  82%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏                        | 398/485 [00:07<00:01, 52.65it/s]\u001B[A\n",
      "Validation DataLoader 0:  82%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌                        | 399/485 [00:07<00:01, 52.64it/s]\u001B[A\n",
      "Validation DataLoader 0:  82%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊                        | 400/485 [00:07<00:01, 52.63it/s]\u001B[A\n",
      "Validation DataLoader 0:  83%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████                        | 401/485 [00:07<00:01, 52.64it/s]\u001B[A\n",
      "Validation DataLoader 0:  83%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍                       | 402/485 [00:07<00:01, 52.64it/s]\u001B[A\n",
      "Validation DataLoader 0:  83%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋                       | 403/485 [00:07<00:01, 52.64it/s]\u001B[A\n",
      "Validation DataLoader 0:  83%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉                       | 404/485 [00:07<00:01, 52.64it/s]\u001B[A\n",
      "Validation DataLoader 0:  84%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏                      | 405/485 [00:07<00:01, 52.64it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  84%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌                      | 406/485 [00:07<00:01, 52.64it/s]\u001B[A\n",
      "Validation DataLoader 0:  84%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊                      | 407/485 [00:07<00:01, 52.65it/s]\u001B[A\n",
      "Validation DataLoader 0:  84%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████                      | 408/485 [00:07<00:01, 52.66it/s]\u001B[A\n",
      "Validation DataLoader 0:  84%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍                     | 409/485 [00:07<00:01, 52.66it/s]\u001B[A\n",
      "Validation DataLoader 0:  85%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋                     | 410/485 [00:07<00:01, 52.67it/s]\u001B[A\n",
      "Validation DataLoader 0:  85%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉                     | 411/485 [00:07<00:01, 52.67it/s]\u001B[A\n",
      "Validation DataLoader 0:  85%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏                    | 412/485 [00:07<00:01, 52.67it/s]\u001B[A\n",
      "Validation DataLoader 0:  85%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌                    | 413/485 [00:07<00:01, 52.68it/s]\u001B[A\n",
      "Validation DataLoader 0:  85%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊                    | 414/485 [00:07<00:01, 52.68it/s]\u001B[A\n",
      "Validation DataLoader 0:  86%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████                    | 415/485 [00:07<00:01, 52.68it/s]\u001B[A\n",
      "Validation DataLoader 0:  86%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎                   | 416/485 [00:07<00:01, 52.66it/s]\u001B[A\n",
      "Validation DataLoader 0:  86%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋                   | 417/485 [00:07<00:01, 52.66it/s]\u001B[A\n",
      "Validation DataLoader 0:  86%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉                   | 418/485 [00:07<00:01, 52.67it/s]\u001B[A\n",
      "Validation DataLoader 0:  86%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏                  | 419/485 [00:07<00:01, 52.67it/s]\u001B[A\n",
      "Validation DataLoader 0:  87%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌                  | 420/485 [00:07<00:01, 52.68it/s]\u001B[A\n",
      "Validation DataLoader 0:  87%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊                  | 421/485 [00:07<00:01, 52.68it/s]\u001B[A\n",
      "Validation DataLoader 0:  87%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████                  | 422/485 [00:08<00:01, 52.69it/s]\u001B[A\n",
      "Validation DataLoader 0:  87%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎                 | 423/485 [00:08<00:01, 52.69it/s]\u001B[A\n",
      "Validation DataLoader 0:  87%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋                 | 424/485 [00:08<00:01, 52.69it/s]\u001B[A\n",
      "Validation DataLoader 0:  88%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉                 | 425/485 [00:08<00:01, 52.70it/s]\u001B[A\n",
      "Validation DataLoader 0:  88%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏                | 426/485 [00:08<00:01, 52.71it/s]\u001B[A\n",
      "Validation DataLoader 0:  88%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍                | 427/485 [00:08<00:01, 52.72it/s]\u001B[A\n",
      "Validation DataLoader 0:  88%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊                | 428/485 [00:08<00:01, 52.72it/s]\u001B[A\n",
      "Validation DataLoader 0:  88%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████                | 429/485 [00:08<00:01, 52.73it/s]\u001B[A\n",
      "Validation DataLoader 0:  89%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎               | 430/485 [00:08<00:01, 52.73it/s]\u001B[A\n",
      "Validation DataLoader 0:  89%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋               | 431/485 [00:08<00:01, 52.74it/s]\u001B[A\n",
      "Validation DataLoader 0:  89%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉               | 432/485 [00:08<00:01, 52.74it/s]\u001B[A\n",
      "Validation DataLoader 0:  89%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏              | 433/485 [00:08<00:00, 52.75it/s]\u001B[A\n",
      "Validation DataLoader 0:  89%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍              | 434/485 [00:08<00:00, 52.75it/s]\u001B[A\n",
      "Validation DataLoader 0:  90%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊              | 435/485 [00:08<00:00, 52.76it/s]\u001B[A\n",
      "Validation DataLoader 0:  90%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████              | 436/485 [00:08<00:00, 52.76it/s]\u001B[A\n",
      "Validation DataLoader 0:  90%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎             | 437/485 [00:08<00:00, 52.77it/s]\u001B[A\n",
      "Validation DataLoader 0:  90%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋             | 438/485 [00:08<00:00, 52.78it/s]\u001B[A\n",
      "Validation DataLoader 0:  91%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉             | 439/485 [00:08<00:00, 52.78it/s]\u001B[A\n",
      "Validation DataLoader 0:  91%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏            | 440/485 [00:08<00:00, 52.79it/s]\u001B[A\n",
      "Validation DataLoader 0:  91%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍            | 441/485 [00:08<00:00, 52.79it/s]\u001B[A\n",
      "Validation DataLoader 0:  91%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊            | 442/485 [00:08<00:00, 52.80it/s]\u001B[A\n",
      "Validation DataLoader 0:  91%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████            | 443/485 [00:08<00:00, 52.81it/s]\u001B[A\n",
      "Validation DataLoader 0:  92%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎           | 444/485 [00:08<00:00, 52.81it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  92%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌           | 445/485 [00:08<00:00, 52.82it/s]\u001B[A\n",
      "Validation DataLoader 0:  92%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉           | 446/485 [00:08<00:00, 52.82it/s]\u001B[A\n",
      "Validation DataLoader 0:  92%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏          | 447/485 [00:08<00:00, 52.83it/s]\u001B[A\n",
      "Validation DataLoader 0:  92%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍          | 448/485 [00:08<00:00, 52.84it/s]\u001B[A\n",
      "Validation DataLoader 0:  93%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊          | 449/485 [00:08<00:00, 52.84it/s]\u001B[A\n",
      "Validation DataLoader 0:  93%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████          | 450/485 [00:08<00:00, 52.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  93%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎         | 451/485 [00:08<00:00, 52.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  93%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌         | 452/485 [00:08<00:00, 52.86it/s]\u001B[A\n",
      "Validation DataLoader 0:  93%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉         | 453/485 [00:08<00:00, 52.86it/s]\u001B[A\n",
      "Validation DataLoader 0:  94%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏        | 454/485 [00:08<00:00, 52.87it/s]\u001B[A\n",
      "Validation DataLoader 0:  94%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍        | 455/485 [00:08<00:00, 52.88it/s]\u001B[A\n",
      "Validation DataLoader 0:  94%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋        | 456/485 [00:08<00:00, 52.88it/s]\u001B[A\n",
      "Validation DataLoader 0:  94%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████        | 457/485 [00:08<00:00, 52.89it/s]\u001B[A\n",
      "Validation DataLoader 0:  94%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎       | 458/485 [00:08<00:00, 52.90it/s]\u001B[A\n",
      "Validation DataLoader 0:  95%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌       | 459/485 [00:08<00:00, 52.91it/s]\u001B[A\n",
      "Validation DataLoader 0:  95%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉       | 460/485 [00:08<00:00, 52.91it/s]\u001B[A\n",
      "Validation DataLoader 0:  95%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏      | 461/485 [00:08<00:00, 52.92it/s]\u001B[A\n",
      "Validation DataLoader 0:  95%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍      | 462/485 [00:08<00:00, 52.93it/s]\u001B[A\n",
      "Validation DataLoader 0:  95%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋      | 463/485 [00:08<00:00, 52.93it/s]\u001B[A\n",
      "Validation DataLoader 0:  96%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████      | 464/485 [00:08<00:00, 52.94it/s]\u001B[A\n",
      "Validation DataLoader 0:  96%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎     | 465/485 [00:08<00:00, 52.95it/s]\u001B[A\n",
      "Validation DataLoader 0:  96%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌     | 466/485 [00:08<00:00, 52.96it/s]\u001B[A\n",
      "Validation DataLoader 0:  96%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉     | 467/485 [00:08<00:00, 52.96it/s]\u001B[A\n",
      "Validation DataLoader 0:  96%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏    | 468/485 [00:08<00:00, 52.97it/s]\u001B[A\n",
      "Validation DataLoader 0:  97%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍    | 469/485 [00:08<00:00, 52.98it/s]\u001B[A\n",
      "Validation DataLoader 0:  97%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋    | 470/485 [00:08<00:00, 52.98it/s]\u001B[A\n",
      "Validation DataLoader 0:  97%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████    | 471/485 [00:08<00:00, 52.99it/s]\u001B[A\n",
      "Validation DataLoader 0:  97%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎   | 472/485 [00:08<00:00, 52.99it/s]\u001B[A\n",
      "Validation DataLoader 0:  98%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌   | 473/485 [00:08<00:00, 52.99it/s]\u001B[A\n",
      "Validation DataLoader 0:  98%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊   | 474/485 [00:08<00:00, 53.00it/s]\u001B[A\n",
      "Validation DataLoader 0:  98%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏  | 475/485 [00:08<00:00, 53.00it/s]\u001B[A\n",
      "Validation DataLoader 0:  98%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍  | 476/485 [00:08<00:00, 53.01it/s]\u001B[A\n",
      "Validation DataLoader 0:  98%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋  | 477/485 [00:08<00:00, 53.02it/s]\u001B[A\n",
      "Validation DataLoader 0:  99%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████  | 478/485 [00:09<00:00, 53.02it/s]\u001B[A\n",
      "Validation DataLoader 0:  99%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎ | 479/485 [00:09<00:00, 53.03it/s]\u001B[A\n",
      "Validation DataLoader 0:  99%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌ | 480/485 [00:09<00:00, 53.04it/s]\u001B[A\n",
      "Validation DataLoader 0:  99%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊ | 481/485 [00:09<00:00, 53.05it/s]\u001B[A\n",
      "Validation DataLoader 0:  99%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏| 482/485 [00:09<00:00, 53.05it/s]\u001B[A\n",
      "Validation DataLoader 0: 100%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍| 483/485 [00:09<00:00, 53.06it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0: 100%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋| 484/485 [00:09<00:00, 53.06it/s]\u001B[A\n",
      "Epoch 3: 100%|███████████████████████████████████████████████████████████████████████████████████████████████████████████| 1453/1453 [03:00<00:00,  8.07it/s, v_num=103, train_loss=2.040, val_loss=1.250]\u001B[A\n",
      "Epoch 4: 100%|███████████████████████████████████████████████████████████████████████████████████████████████████████████| 1453/1453 [02:51<00:00,  8.50it/s, v_num=103, train_loss=1.040, val_loss=1.250]\u001B[A\n",
      "Validation: 0it [00:00, ?it/s]\u001B[A\n",
      "Validation:   0%|                                                                                                                                                                 | 0/485 [00:00<?, ?it/s]\u001B[A\n",
      "Validation DataLoader 0:   0%|                                                                                                                                                    | 0/485 [00:00<?, ?it/s]\u001B[A\n",
      "Validation DataLoader 0:   0%|▎                                                                                                                                           | 1/485 [00:00<00:10, 44.25it/s]\u001B[A\n",
      "Validation DataLoader 0:   0%|▌                                                                                                                                           | 2/485 [00:00<00:10, 45.58it/s]\u001B[A\n",
      "Validation DataLoader 0:   1%|▊                                                                                                                                           | 3/485 [00:00<00:10, 46.65it/s]\u001B[A\n",
      "Validation DataLoader 0:   1%|█▏                                                                                                                                          | 4/485 [00:00<00:10, 46.91it/s]\u001B[A\n",
      "Validation DataLoader 0:   1%|█▍                                                                                                                                          | 5/485 [00:00<00:10, 47.00it/s]\u001B[A\n",
      "Validation DataLoader 0:   1%|█▋                                                                                                                                          | 6/485 [00:00<00:10, 47.34it/s]\u001B[A\n",
      "Validation DataLoader 0:   1%|██                                                                                                                                          | 7/485 [00:00<00:10, 47.50it/s]\u001B[A\n",
      "Validation DataLoader 0:   2%|██▎                                                                                                                                         | 8/485 [00:00<00:10, 47.60it/s]\u001B[A\n",
      "Validation DataLoader 0:   2%|██▌                                                                                                                                         | 9/485 [00:00<00:09, 47.74it/s]\u001B[A\n",
      "Validation DataLoader 0:   2%|██▊                                                                                                                                        | 10/485 [00:00<00:09, 47.88it/s]\u001B[A\n",
      "Validation DataLoader 0:   2%|███▏                                                                                                                                       | 11/485 [00:00<00:09, 47.98it/s]\u001B[A\n",
      "Validation DataLoader 0:   2%|███▍                                                                                                                                       | 12/485 [00:00<00:09, 47.94it/s]\u001B[A\n",
      "Validation DataLoader 0:   3%|███▋                                                                                                                                       | 13/485 [00:00<00:09, 48.04it/s]\u001B[A\n",
      "Validation DataLoader 0:   3%|████                                                                                                                                       | 14/485 [00:00<00:09, 48.03it/s]\u001B[A\n",
      "Validation DataLoader 0:   3%|████▎                                                                                                                                      | 15/485 [00:00<00:09, 48.16it/s]\u001B[A\n",
      "Validation DataLoader 0:   3%|████▌                                                                                                                                      | 16/485 [00:00<00:09, 48.24it/s]\u001B[A\n",
      "Validation DataLoader 0:   4%|████▊                                                                                                                                      | 17/485 [00:00<00:09, 48.24it/s]\u001B[A\n",
      "Validation DataLoader 0:   4%|█████▏                                                                                                                                     | 18/485 [00:00<00:09, 48.24it/s]\u001B[A\n",
      "Validation DataLoader 0:   4%|█████▍                                                                                                                                     | 19/485 [00:00<00:09, 48.20it/s]\u001B[A\n",
      "Validation DataLoader 0:   4%|█████▋                                                                                                                                     | 20/485 [00:00<00:09, 48.29it/s]\u001B[A\n",
      "Validation DataLoader 0:   4%|██████                                                                                                                                     | 21/485 [00:00<00:09, 48.26it/s]\u001B[A\n",
      "Validation DataLoader 0:   5%|██████▎                                                                                                                                    | 22/485 [00:00<00:09, 48.29it/s]\u001B[A\n",
      "Validation DataLoader 0:   5%|██████▌                                                                                                                                    | 23/485 [00:00<00:09, 48.34it/s]\u001B[A\n",
      "Validation DataLoader 0:   5%|██████▉                                                                                                                                    | 24/485 [00:00<00:09, 48.40it/s]\u001B[A\n",
      "Validation DataLoader 0:   5%|███████▏                                                                                                                                   | 25/485 [00:00<00:09, 48.38it/s]\u001B[A\n",
      "Validation DataLoader 0:   5%|███████▍                                                                                                                                   | 26/485 [00:00<00:09, 48.43it/s]\u001B[A\n",
      "Validation DataLoader 0:   6%|███████▋                                                                                                                                   | 27/485 [00:00<00:09, 48.46it/s]\u001B[A\n",
      "Validation DataLoader 0:   6%|████████                                                                                                                                   | 28/485 [00:00<00:09, 48.51it/s]\u001B[A\n",
      "Validation DataLoader 0:   6%|████████▎                                                                                                                                  | 29/485 [00:00<00:09, 48.55it/s]\u001B[A\n",
      "Validation DataLoader 0:   6%|████████▌                                                                                                                                  | 30/485 [00:00<00:09, 48.57it/s]\u001B[A\n",
      "Validation DataLoader 0:   6%|████████▉                                                                                                                                  | 31/485 [00:00<00:09, 48.59it/s]\u001B[A\n",
      "Validation DataLoader 0:   7%|█████████▏                                                                                                                                 | 32/485 [00:00<00:09, 48.60it/s]\u001B[A\n",
      "Validation DataLoader 0:   7%|█████████▍                                                                                                                                 | 33/485 [00:00<00:09, 48.64it/s]\u001B[A\n",
      "Validation DataLoader 0:   7%|█████████▋                                                                                                                                 | 34/485 [00:00<00:09, 48.68it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:   7%|██████████                                                                                                                                 | 35/485 [00:00<00:09, 48.69it/s]\u001B[A\n",
      "Validation DataLoader 0:   7%|██████████▎                                                                                                                                | 36/485 [00:00<00:09, 48.51it/s]\u001B[A\n",
      "Validation DataLoader 0:   8%|██████████▌                                                                                                                                | 37/485 [00:00<00:09, 48.46it/s]\u001B[A\n",
      "Validation DataLoader 0:   8%|██████████▉                                                                                                                                | 38/485 [00:00<00:09, 48.30it/s]\u001B[A\n",
      "Validation DataLoader 0:   8%|███████████▏                                                                                                                               | 39/485 [00:00<00:09, 48.33it/s]\u001B[A\n",
      "Validation DataLoader 0:   8%|███████████▍                                                                                                                               | 40/485 [00:00<00:09, 48.40it/s]\u001B[A\n",
      "Validation DataLoader 0:   8%|███████████▊                                                                                                                               | 41/485 [00:00<00:09, 48.49it/s]\u001B[A\n",
      "Validation DataLoader 0:   9%|████████████                                                                                                                               | 42/485 [00:00<00:09, 48.57it/s]\u001B[A\n",
      "Validation DataLoader 0:   9%|████████████▎                                                                                                                              | 43/485 [00:00<00:09, 48.63it/s]\u001B[A\n",
      "Validation DataLoader 0:   9%|████████████▌                                                                                                                              | 44/485 [00:00<00:09, 48.64it/s]\u001B[A\n",
      "Validation DataLoader 0:   9%|████████████▉                                                                                                                              | 45/485 [00:00<00:09, 48.66it/s]\u001B[A\n",
      "Validation DataLoader 0:   9%|█████████████▏                                                                                                                             | 46/485 [00:00<00:09, 48.71it/s]\u001B[A\n",
      "Validation DataLoader 0:  10%|█████████████▍                                                                                                                             | 47/485 [00:00<00:08, 48.74it/s]\u001B[A\n",
      "Validation DataLoader 0:  10%|█████████████▊                                                                                                                             | 48/485 [00:00<00:08, 48.76it/s]\u001B[A\n",
      "Validation DataLoader 0:  10%|██████████████                                                                                                                             | 49/485 [00:01<00:08, 48.79it/s]\u001B[A\n",
      "Validation DataLoader 0:  10%|██████████████▎                                                                                                                            | 50/485 [00:01<00:08, 48.80it/s]\u001B[A\n",
      "Validation DataLoader 0:  11%|██████████████▌                                                                                                                            | 51/485 [00:01<00:08, 48.82it/s]\u001B[A\n",
      "Validation DataLoader 0:  11%|██████████████▉                                                                                                                            | 52/485 [00:01<00:08, 48.87it/s]\u001B[A\n",
      "Validation DataLoader 0:  11%|███████████████▏                                                                                                                           | 53/485 [00:01<00:08, 48.89it/s]\u001B[A\n",
      "Validation DataLoader 0:  11%|███████████████▍                                                                                                                           | 54/485 [00:01<00:08, 48.92it/s]\u001B[A\n",
      "Validation DataLoader 0:  11%|███████████████▊                                                                                                                           | 55/485 [00:01<00:08, 48.91it/s]\u001B[A\n",
      "Validation DataLoader 0:  12%|████████████████                                                                                                                           | 56/485 [00:01<00:08, 48.87it/s]\u001B[A\n",
      "Validation DataLoader 0:  12%|████████████████▎                                                                                                                          | 57/485 [00:01<00:08, 48.66it/s]\u001B[A\n",
      "Validation DataLoader 0:  12%|████████████████▌                                                                                                                          | 58/485 [00:01<00:08, 48.59it/s]\u001B[A\n",
      "Validation DataLoader 0:  12%|████████████████▉                                                                                                                          | 59/485 [00:01<00:08, 48.61it/s]\u001B[A\n",
      "Validation DataLoader 0:  12%|█████████████████▏                                                                                                                         | 60/485 [00:01<00:08, 48.63it/s]\u001B[A\n",
      "Validation DataLoader 0:  13%|█████████████████▍                                                                                                                         | 61/485 [00:01<00:08, 48.67it/s]\u001B[A\n",
      "Validation DataLoader 0:  13%|█████████████████▊                                                                                                                         | 62/485 [00:01<00:08, 48.70it/s]\u001B[A\n",
      "Validation DataLoader 0:  13%|██████████████████                                                                                                                         | 63/485 [00:01<00:08, 48.72it/s]\u001B[A\n",
      "Validation DataLoader 0:  13%|██████████████████▎                                                                                                                        | 64/485 [00:01<00:08, 48.74it/s]\u001B[A\n",
      "Validation DataLoader 0:  13%|██████████████████▋                                                                                                                        | 65/485 [00:01<00:08, 48.76it/s]\u001B[A\n",
      "Validation DataLoader 0:  14%|██████████████████▉                                                                                                                        | 66/485 [00:01<00:08, 48.79it/s]\u001B[A\n",
      "Validation DataLoader 0:  14%|███████████████████▏                                                                                                                       | 67/485 [00:01<00:08, 48.83it/s]\u001B[A\n",
      "Validation DataLoader 0:  14%|███████████████████▍                                                                                                                       | 68/485 [00:01<00:08, 48.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  14%|███████████████████▊                                                                                                                       | 69/485 [00:01<00:08, 48.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  14%|████████████████████                                                                                                                       | 70/485 [00:01<00:08, 48.82it/s]\u001B[A\n",
      "Validation DataLoader 0:  15%|████████████████████▎                                                                                                                      | 71/485 [00:01<00:08, 48.79it/s]\u001B[A\n",
      "Validation DataLoader 0:  15%|████████████████████▋                                                                                                                      | 72/485 [00:01<00:08, 48.81it/s]\u001B[A\n",
      "Validation DataLoader 0:  15%|████████████████████▉                                                                                                                      | 73/485 [00:01<00:08, 48.84it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  15%|█████████████████████▏                                                                                                                     | 74/485 [00:01<00:08, 48.88it/s]\u001B[A\n",
      "Validation DataLoader 0:  15%|█████████████████████▍                                                                                                                     | 75/485 [00:01<00:08, 48.90it/s]\u001B[A\n",
      "Validation DataLoader 0:  16%|█████████████████████▊                                                                                                                     | 76/485 [00:01<00:08, 48.88it/s]\u001B[A\n",
      "Validation DataLoader 0:  16%|██████████████████████                                                                                                                     | 77/485 [00:01<00:08, 48.91it/s]\u001B[A\n",
      "Validation DataLoader 0:  16%|██████████████████████▎                                                                                                                    | 78/485 [00:01<00:08, 48.93it/s]\u001B[A\n",
      "Validation DataLoader 0:  16%|██████████████████████▋                                                                                                                    | 79/485 [00:01<00:08, 48.94it/s]\u001B[A\n",
      "Validation DataLoader 0:  16%|██████████████████████▉                                                                                                                    | 80/485 [00:01<00:08, 48.95it/s]\u001B[A\n",
      "Validation DataLoader 0:  17%|███████████████████████▏                                                                                                                   | 81/485 [00:01<00:08, 48.95it/s]\u001B[A\n",
      "Validation DataLoader 0:  17%|███████████████████████▌                                                                                                                   | 82/485 [00:01<00:08, 48.94it/s]\u001B[A\n",
      "Validation DataLoader 0:  17%|███████████████████████▊                                                                                                                   | 83/485 [00:01<00:08, 48.95it/s]\u001B[A\n",
      "Validation DataLoader 0:  17%|████████████████████████                                                                                                                   | 84/485 [00:01<00:08, 48.93it/s]\u001B[A\n",
      "Validation DataLoader 0:  18%|████████████████████████▎                                                                                                                  | 85/485 [00:01<00:08, 48.92it/s]\u001B[A\n",
      "Validation DataLoader 0:  18%|████████████████████████▋                                                                                                                  | 86/485 [00:01<00:08, 48.89it/s]\u001B[A\n",
      "Validation DataLoader 0:  18%|████████████████████████▉                                                                                                                  | 87/485 [00:01<00:08, 48.89it/s]\u001B[A\n",
      "Validation DataLoader 0:  18%|█████████████████████████▏                                                                                                                 | 88/485 [00:01<00:08, 48.86it/s]\u001B[A\n",
      "Validation DataLoader 0:  18%|█████████████████████████▌                                                                                                                 | 89/485 [00:01<00:08, 48.84it/s]\u001B[A\n",
      "Validation DataLoader 0:  19%|█████████████████████████▊                                                                                                                 | 90/485 [00:01<00:08, 48.83it/s]\u001B[A\n",
      "Validation DataLoader 0:  19%|██████████████████████████                                                                                                                 | 91/485 [00:01<00:08, 48.82it/s]\u001B[A\n",
      "Validation DataLoader 0:  19%|██████████████████████████▎                                                                                                                | 92/485 [00:01<00:08, 48.81it/s]\u001B[A\n",
      "Validation DataLoader 0:  19%|██████████████████████████▋                                                                                                                | 93/485 [00:01<00:08, 48.78it/s]\u001B[A\n",
      "Validation DataLoader 0:  19%|██████████████████████████▉                                                                                                                | 94/485 [00:01<00:08, 48.79it/s]\u001B[A\n",
      "Validation DataLoader 0:  20%|███████████████████████████▏                                                                                                               | 95/485 [00:01<00:07, 48.80it/s]\u001B[A\n",
      "Validation DataLoader 0:  20%|███████████████████████████▌                                                                                                               | 96/485 [00:01<00:07, 48.81it/s]\u001B[A\n",
      "Validation DataLoader 0:  20%|███████████████████████████▊                                                                                                               | 97/485 [00:01<00:07, 48.83it/s]\u001B[A\n",
      "Validation DataLoader 0:  20%|████████████████████████████                                                                                                               | 98/485 [00:02<00:07, 48.83it/s]\u001B[A\n",
      "Validation DataLoader 0:  20%|████████████████████████████▎                                                                                                              | 99/485 [00:02<00:07, 48.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  21%|████████████████████████████▍                                                                                                             | 100/485 [00:02<00:07, 48.87it/s]\u001B[A\n",
      "Validation DataLoader 0:  21%|████████████████████████████▋                                                                                                             | 101/485 [00:02<00:07, 48.87it/s]\u001B[A\n",
      "Validation DataLoader 0:  21%|█████████████████████████████                                                                                                             | 102/485 [00:02<00:07, 48.87it/s]\u001B[A\n",
      "Validation DataLoader 0:  21%|█████████████████████████████▎                                                                                                            | 103/485 [00:02<00:07, 48.86it/s]\u001B[A\n",
      "Validation DataLoader 0:  21%|█████████████████████████████▌                                                                                                            | 104/485 [00:02<00:07, 48.86it/s]\u001B[A\n",
      "Validation DataLoader 0:  22%|█████████████████████████████▉                                                                                                            | 105/485 [00:02<00:07, 48.86it/s]\u001B[A\n",
      "Validation DataLoader 0:  22%|██████████████████████████████▏                                                                                                           | 106/485 [00:02<00:07, 48.87it/s]\u001B[A\n",
      "Validation DataLoader 0:  22%|██████████████████████████████▍                                                                                                           | 107/485 [00:02<00:07, 48.87it/s]\u001B[A\n",
      "Validation DataLoader 0:  22%|██████████████████████████████▋                                                                                                           | 108/485 [00:02<00:07, 48.88it/s]\u001B[A\n",
      "Validation DataLoader 0:  22%|███████████████████████████████                                                                                                           | 109/485 [00:02<00:07, 48.89it/s]\u001B[A\n",
      "Validation DataLoader 0:  23%|███████████████████████████████▎                                                                                                          | 110/485 [00:02<00:07, 48.88it/s]\u001B[A\n",
      "Validation DataLoader 0:  23%|███████████████████████████████▌                                                                                                          | 111/485 [00:02<00:07, 48.90it/s]\u001B[A\n",
      "Validation DataLoader 0:  23%|███████████████████████████████▊                                                                                                          | 112/485 [00:02<00:07, 48.89it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  23%|████████████████████████████████▏                                                                                                         | 113/485 [00:02<00:07, 48.90it/s]\u001B[A\n",
      "Validation DataLoader 0:  24%|████████████████████████████████▍                                                                                                         | 114/485 [00:02<00:07, 48.89it/s]\u001B[A\n",
      "Validation DataLoader 0:  24%|████████████████████████████████▋                                                                                                         | 115/485 [00:02<00:07, 48.87it/s]\u001B[A\n",
      "Validation DataLoader 0:  24%|█████████████████████████████████                                                                                                         | 116/485 [00:02<00:07, 48.87it/s]\u001B[A\n",
      "Validation DataLoader 0:  24%|█████████████████████████████████▎                                                                                                        | 117/485 [00:02<00:07, 48.86it/s]\u001B[A\n",
      "Validation DataLoader 0:  24%|█████████████████████████████████▌                                                                                                        | 118/485 [00:02<00:07, 48.86it/s]\u001B[A\n",
      "Validation DataLoader 0:  25%|█████████████████████████████████▊                                                                                                        | 119/485 [00:02<00:07, 48.87it/s]\u001B[A\n",
      "Validation DataLoader 0:  25%|██████████████████████████████████▏                                                                                                       | 120/485 [00:02<00:07, 48.78it/s]\u001B[A\n",
      "Validation DataLoader 0:  25%|██████████████████████████████████▍                                                                                                       | 121/485 [00:02<00:07, 48.79it/s]\u001B[A\n",
      "Validation DataLoader 0:  25%|██████████████████████████████████▋                                                                                                       | 122/485 [00:02<00:07, 48.78it/s]\u001B[A\n",
      "Validation DataLoader 0:  25%|██████████████████████████████████▉                                                                                                       | 123/485 [00:02<00:07, 48.78it/s]\u001B[A\n",
      "Validation DataLoader 0:  26%|███████████████████████████████████▎                                                                                                      | 124/485 [00:02<00:07, 48.78it/s]\u001B[A\n",
      "Validation DataLoader 0:  26%|███████████████████████████████████▌                                                                                                      | 125/485 [00:02<00:07, 48.78it/s]\u001B[A\n",
      "Validation DataLoader 0:  26%|███████████████████████████████████▊                                                                                                      | 126/485 [00:02<00:07, 48.77it/s]\u001B[A\n",
      "Validation DataLoader 0:  26%|████████████████████████████████████▏                                                                                                     | 127/485 [00:02<00:07, 48.78it/s]\u001B[A\n",
      "Validation DataLoader 0:  26%|████████████████████████████████████▍                                                                                                     | 128/485 [00:02<00:07, 48.77it/s]\u001B[A\n",
      "Validation DataLoader 0:  27%|████████████████████████████████████▋                                                                                                     | 129/485 [00:02<00:07, 48.76it/s]\u001B[A\n",
      "Validation DataLoader 0:  27%|████████████████████████████████████▉                                                                                                     | 130/485 [00:02<00:07, 48.74it/s]\u001B[A\n",
      "Validation DataLoader 0:  27%|█████████████████████████████████████▎                                                                                                    | 131/485 [00:02<00:07, 48.73it/s]\u001B[A\n",
      "Validation DataLoader 0:  27%|█████████████████████████████████████▌                                                                                                    | 132/485 [00:02<00:07, 48.73it/s]\u001B[A\n",
      "Validation DataLoader 0:  27%|█████████████████████████████████████▊                                                                                                    | 133/485 [00:02<00:07, 48.73it/s]\u001B[A\n",
      "Validation DataLoader 0:  28%|██████████████████████████████████████▏                                                                                                   | 134/485 [00:02<00:07, 48.74it/s]\u001B[A\n",
      "Validation DataLoader 0:  28%|██████████████████████████████████████▍                                                                                                   | 135/485 [00:02<00:07, 48.75it/s]\u001B[A\n",
      "Validation DataLoader 0:  28%|██████████████████████████████████████▋                                                                                                   | 136/485 [00:02<00:07, 48.75it/s]\u001B[A\n",
      "Validation DataLoader 0:  28%|██████████████████████████████████████▉                                                                                                   | 137/485 [00:02<00:07, 48.76it/s]\u001B[A\n",
      "Validation DataLoader 0:  28%|███████████████████████████████████████▎                                                                                                  | 138/485 [00:02<00:07, 48.78it/s]\u001B[A\n",
      "Validation DataLoader 0:  29%|███████████████████████████████████████▌                                                                                                  | 139/485 [00:02<00:07, 48.79it/s]\u001B[A\n",
      "Validation DataLoader 0:  29%|███████████████████████████████████████▊                                                                                                  | 140/485 [00:02<00:07, 48.80it/s]\u001B[A\n",
      "Validation DataLoader 0:  29%|████████████████████████████████████████                                                                                                  | 141/485 [00:02<00:07, 48.81it/s]\u001B[A\n",
      "Validation DataLoader 0:  29%|████████████████████████████████████████▍                                                                                                 | 142/485 [00:02<00:07, 48.82it/s]\u001B[A\n",
      "Validation DataLoader 0:  29%|████████████████████████████████████████▋                                                                                                 | 143/485 [00:02<00:07, 48.84it/s]\u001B[A\n",
      "Validation DataLoader 0:  30%|████████████████████████████████████████▉                                                                                                 | 144/485 [00:02<00:06, 48.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  30%|█████████████████████████████████████████▎                                                                                                | 145/485 [00:02<00:06, 48.86it/s]\u001B[A\n",
      "Validation DataLoader 0:  30%|█████████████████████████████████████████▌                                                                                                | 146/485 [00:02<00:06, 48.87it/s]\u001B[A\n",
      "Validation DataLoader 0:  30%|█████████████████████████████████████████▊                                                                                                | 147/485 [00:03<00:06, 48.88it/s]\u001B[A\n",
      "Validation DataLoader 0:  31%|██████████████████████████████████████████                                                                                                | 148/485 [00:03<00:06, 48.88it/s]\u001B[A\n",
      "Validation DataLoader 0:  31%|██████████████████████████████████████████▍                                                                                               | 149/485 [00:03<00:06, 48.88it/s]\u001B[A\n",
      "Validation DataLoader 0:  31%|██████████████████████████████████████████▋                                                                                               | 150/485 [00:03<00:06, 48.86it/s]\u001B[A\n",
      "Validation DataLoader 0:  31%|██████████████████████████████████████████▉                                                                                               | 151/485 [00:03<00:06, 48.84it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  31%|███████████████████████████████████████████▏                                                                                              | 152/485 [00:03<00:06, 48.84it/s]\u001B[A\n",
      "Validation DataLoader 0:  32%|███████████████████████████████████████████▌                                                                                              | 153/485 [00:03<00:06, 48.82it/s]\u001B[A\n",
      "Validation DataLoader 0:  32%|███████████████████████████████████████████▊                                                                                              | 154/485 [00:03<00:06, 48.83it/s]\u001B[A\n",
      "Validation DataLoader 0:  32%|████████████████████████████████████████████                                                                                              | 155/485 [00:03<00:06, 48.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  32%|████████████████████████████████████████████▍                                                                                             | 156/485 [00:03<00:06, 48.86it/s]\u001B[A\n",
      "Validation DataLoader 0:  32%|████████████████████████████████████████████▋                                                                                             | 157/485 [00:03<00:06, 48.87it/s]\u001B[A\n",
      "Validation DataLoader 0:  33%|████████████████████████████████████████████▉                                                                                             | 158/485 [00:03<00:06, 48.87it/s]\u001B[A\n",
      "Validation DataLoader 0:  33%|█████████████████████████████████████████████▏                                                                                            | 159/485 [00:03<00:06, 48.87it/s]\u001B[A\n",
      "Validation DataLoader 0:  33%|█████████████████████████████████████████████▌                                                                                            | 160/485 [00:03<00:06, 48.88it/s]\u001B[A\n",
      "Validation DataLoader 0:  33%|█████████████████████████████████████████████▊                                                                                            | 161/485 [00:03<00:06, 48.90it/s]\u001B[A\n",
      "Validation DataLoader 0:  33%|██████████████████████████████████████████████                                                                                            | 162/485 [00:03<00:06, 48.91it/s]\u001B[A\n",
      "Validation DataLoader 0:  34%|██████████████████████████████████████████████▍                                                                                           | 163/485 [00:03<00:06, 48.92it/s]\u001B[A\n",
      "Validation DataLoader 0:  34%|██████████████████████████████████████████████▋                                                                                           | 164/485 [00:03<00:06, 48.93it/s]\u001B[A\n",
      "Validation DataLoader 0:  34%|██████████████████████████████████████████████▉                                                                                           | 165/485 [00:03<00:06, 48.89it/s]\u001B[A\n",
      "Validation DataLoader 0:  34%|███████████████████████████████████████████████▏                                                                                          | 166/485 [00:03<00:06, 48.90it/s]\u001B[A\n",
      "Validation DataLoader 0:  34%|███████████████████████████████████████████████▌                                                                                          | 167/485 [00:03<00:06, 48.90it/s]\u001B[A\n",
      "Validation DataLoader 0:  35%|███████████████████████████████████████████████▊                                                                                          | 168/485 [00:03<00:06, 48.91it/s]\u001B[A\n",
      "Validation DataLoader 0:  35%|████████████████████████████████████████████████                                                                                          | 169/485 [00:03<00:06, 48.92it/s]\u001B[A\n",
      "Validation DataLoader 0:  35%|████████████████████████████████████████████████▎                                                                                         | 170/485 [00:03<00:06, 48.93it/s]\u001B[A\n",
      "Validation DataLoader 0:  35%|████████████████████████████████████████████████▋                                                                                         | 171/485 [00:03<00:06, 48.93it/s]\u001B[A\n",
      "Validation DataLoader 0:  35%|████████████████████████████████████████████████▉                                                                                         | 172/485 [00:03<00:06, 48.94it/s]\u001B[A\n",
      "Validation DataLoader 0:  36%|█████████████████████████████████████████████████▏                                                                                        | 173/485 [00:03<00:06, 48.95it/s]\u001B[A\n",
      "Validation DataLoader 0:  36%|█████████████████████████████████████████████████▌                                                                                        | 174/485 [00:03<00:06, 48.95it/s]\u001B[A\n",
      "Validation DataLoader 0:  36%|█████████████████████████████████████████████████▊                                                                                        | 175/485 [00:03<00:06, 48.95it/s]\u001B[A\n",
      "Validation DataLoader 0:  36%|██████████████████████████████████████████████████                                                                                        | 176/485 [00:03<00:06, 48.95it/s]\u001B[A\n",
      "Validation DataLoader 0:  36%|██████████████████████████████████████████████████▎                                                                                       | 177/485 [00:03<00:06, 48.96it/s]\u001B[A\n",
      "Validation DataLoader 0:  37%|██████████████████████████████████████████████████▋                                                                                       | 178/485 [00:03<00:06, 48.96it/s]\u001B[A\n",
      "Validation DataLoader 0:  37%|██████████████████████████████████████████████████▉                                                                                       | 179/485 [00:03<00:06, 48.96it/s]\u001B[A\n",
      "Validation DataLoader 0:  37%|███████████████████████████████████████████████████▏                                                                                      | 180/485 [00:03<00:06, 48.96it/s]\u001B[A\n",
      "Validation DataLoader 0:  37%|███████████████████████████████████████████████████▌                                                                                      | 181/485 [00:03<00:06, 48.96it/s]\u001B[A\n",
      "Validation DataLoader 0:  38%|███████████████████████████████████████████████████▊                                                                                      | 182/485 [00:03<00:06, 48.96it/s]\u001B[A\n",
      "Validation DataLoader 0:  38%|████████████████████████████████████████████████████                                                                                      | 183/485 [00:03<00:06, 48.94it/s]\u001B[A\n",
      "Validation DataLoader 0:  38%|████████████████████████████████████████████████████▎                                                                                     | 184/485 [00:03<00:06, 48.95it/s]\u001B[A\n",
      "Validation DataLoader 0:  38%|████████████████████████████████████████████████████▋                                                                                     | 185/485 [00:03<00:06, 48.95it/s]\u001B[A\n",
      "Validation DataLoader 0:  38%|████████████████████████████████████████████████████▉                                                                                     | 186/485 [00:03<00:06, 48.94it/s]\u001B[A\n",
      "Validation DataLoader 0:  39%|█████████████████████████████████████████████████████▏                                                                                    | 187/485 [00:03<00:06, 48.94it/s]\u001B[A\n",
      "Validation DataLoader 0:  39%|█████████████████████████████████████████████████████▍                                                                                    | 188/485 [00:03<00:06, 48.93it/s]\u001B[A\n",
      "Validation DataLoader 0:  39%|█████████████████████████████████████████████████████▊                                                                                    | 189/485 [00:03<00:06, 48.94it/s]\u001B[A\n",
      "Validation DataLoader 0:  39%|██████████████████████████████████████████████████████                                                                                    | 190/485 [00:03<00:06, 48.94it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  39%|██████████████████████████████████████████████████████▎                                                                                   | 191/485 [00:03<00:06, 48.94it/s]\u001B[A\n",
      "Validation DataLoader 0:  40%|██████████████████████████████████████████████████████▋                                                                                   | 192/485 [00:03<00:05, 48.94it/s]\u001B[A\n",
      "Validation DataLoader 0:  40%|██████████████████████████████████████████████████████▉                                                                                   | 193/485 [00:03<00:05, 48.94it/s]\u001B[A\n",
      "Validation DataLoader 0:  40%|███████████████████████████████████████████████████████▏                                                                                  | 194/485 [00:03<00:05, 48.94it/s]\u001B[A\n",
      "Validation DataLoader 0:  40%|███████████████████████████████████████████████████████▍                                                                                  | 195/485 [00:03<00:05, 48.92it/s]\u001B[A\n",
      "Validation DataLoader 0:  40%|███████████████████████████████████████████████████████▊                                                                                  | 196/485 [00:04<00:05, 48.92it/s]\u001B[A\n",
      "Validation DataLoader 0:  41%|████████████████████████████████████████████████████████                                                                                  | 197/485 [00:04<00:05, 48.91it/s]\u001B[A\n",
      "Validation DataLoader 0:  41%|████████████████████████████████████████████████████████▎                                                                                 | 198/485 [00:04<00:05, 48.91it/s]\u001B[A\n",
      "Validation DataLoader 0:  41%|████████████████████████████████████████████████████████▌                                                                                 | 199/485 [00:04<00:05, 48.91it/s]\u001B[A\n",
      "Validation DataLoader 0:  41%|████████████████████████████████████████████████████████▉                                                                                 | 200/485 [00:04<00:05, 48.89it/s]\u001B[A\n",
      "Validation DataLoader 0:  41%|█████████████████████████████████████████████████████████▏                                                                                | 201/485 [00:04<00:05, 48.88it/s]\u001B[A\n",
      "Validation DataLoader 0:  42%|█████████████████████████████████████████████████████████▍                                                                                | 202/485 [00:04<00:05, 48.87it/s]\u001B[A\n",
      "Validation DataLoader 0:  42%|█████████████████████████████████████████████████████████▊                                                                                | 203/485 [00:04<00:05, 48.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  42%|██████████████████████████████████████████████████████████                                                                                | 204/485 [00:04<00:05, 48.85it/s]\u001B[A\n",
      "Validation DataLoader 0:  42%|██████████████████████████████████████████████████████████▎                                                                               | 205/485 [00:04<00:05, 48.84it/s]\u001B[A\n",
      "Validation DataLoader 0:  42%|██████████████████████████████████████████████████████████▌                                                                               | 206/485 [00:04<00:05, 48.84it/s]\u001B[A\n",
      "Validation DataLoader 0:  43%|██████████████████████████████████████████████████████████▉                                                                               | 207/485 [00:04<00:05, 48.84it/s]\u001B[A\n",
      "Validation DataLoader 0:  43%|███████████████████████████████████████████████████████████▏                                                                              | 208/485 [00:04<00:05, 48.77it/s]\u001B[A\n",
      "Validation DataLoader 0:  43%|███████████████████████████████████████████████████████████▍                                                                              | 209/485 [00:04<00:05, 48.71it/s]\u001B[A\n",
      "Validation DataLoader 0:  43%|███████████████████████████████████████████████████████████▊                                                                              | 210/485 [00:04<00:05, 48.67it/s]\u001B[A\n",
      "Validation DataLoader 0:  44%|████████████████████████████████████████████████████████████                                                                              | 211/485 [00:04<00:05, 48.66it/s]\u001B[A\n",
      "Validation DataLoader 0:  44%|████████████████████████████████████████████████████████████▎                                                                             | 212/485 [00:04<00:05, 48.65it/s]\u001B[A\n",
      "Validation DataLoader 0:  44%|████████████████████████████████████████████████████████████▌                                                                             | 213/485 [00:04<00:05, 48.65it/s]\u001B[A\n",
      "Validation DataLoader 0:  44%|████████████████████████████████████████████████████████████▉                                                                             | 214/485 [00:04<00:05, 48.64it/s]\u001B[A\n",
      "Validation DataLoader 0:  44%|█████████████████████████████████████████████████████████████▏                                                                            | 215/485 [00:04<00:05, 48.65it/s]\u001B[A\n",
      "Validation DataLoader 0:  45%|█████████████████████████████████████████████████████████████▍                                                                            | 216/485 [00:04<00:05, 48.64it/s]\u001B[A\n",
      "Validation DataLoader 0:  45%|█████████████████████████████████████████████████████████████▋                                                                            | 217/485 [00:04<00:05, 48.65it/s]\u001B[A\n",
      "Validation DataLoader 0:  45%|██████████████████████████████████████████████████████████████                                                                            | 218/485 [00:04<00:05, 48.66it/s]\u001B[A\n",
      "Validation DataLoader 0:  45%|██████████████████████████████████████████████████████████████▎                                                                           | 219/485 [00:04<00:05, 48.65it/s]\u001B[A\n",
      "Validation DataLoader 0:  45%|██████████████████████████████████████████████████████████████▌                                                                           | 220/485 [00:04<00:05, 48.64it/s]\u001B[A\n",
      "Validation DataLoader 0:  46%|██████████████████████████████████████████████████████████████▉                                                                           | 221/485 [00:04<00:05, 48.64it/s]\u001B[A\n",
      "Validation DataLoader 0:  46%|███████████████████████████████████████████████████████████████▏                                                                          | 222/485 [00:04<00:05, 48.64it/s]\u001B[A\n",
      "Validation DataLoader 0:  46%|███████████████████████████████████████████████████████████████▍                                                                          | 223/485 [00:04<00:05, 48.64it/s]\u001B[A\n",
      "Validation DataLoader 0:  46%|███████████████████████████████████████████████████████████████▋                                                                          | 224/485 [00:04<00:05, 48.63it/s]\u001B[A\n",
      "Validation DataLoader 0:  46%|████████████████████████████████████████████████████████████████                                                                          | 225/485 [00:04<00:05, 48.62it/s]\u001B[A\n",
      "Validation DataLoader 0:  47%|████████████████████████████████████████████████████████████████▎                                                                         | 226/485 [00:04<00:05, 48.62it/s]\u001B[A\n",
      "Validation DataLoader 0:  47%|████████████████████████████████████████████████████████████████▌                                                                         | 227/485 [00:04<00:05, 48.62it/s]\u001B[A\n",
      "Validation DataLoader 0:  47%|████████████████████████████████████████████████████████████████▊                                                                         | 228/485 [00:04<00:05, 48.63it/s]\u001B[A\n",
      "Validation DataLoader 0:  47%|█████████████████████████████████████████████████████████████████▏                                                                        | 229/485 [00:04<00:05, 48.64it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  47%|█████████████████████████████████████████████████████████████████▍                                                                        | 230/485 [00:04<00:05, 48.63it/s]\u001B[A\n",
      "Validation DataLoader 0:  48%|█████████████████████████████████████████████████████████████████▋                                                                        | 231/485 [00:04<00:05, 48.63it/s]\u001B[A\n",
      "Validation DataLoader 0:  48%|██████████████████████████████████████████████████████████████████                                                                        | 232/485 [00:04<00:05, 48.63it/s]\u001B[A\n",
      "Validation DataLoader 0:  48%|██████████████████████████████████████████████████████████████████▎                                                                       | 233/485 [00:04<00:05, 48.63it/s]\u001B[A\n",
      "Validation DataLoader 0:  48%|██████████████████████████████████████████████████████████████████▌                                                                       | 234/485 [00:04<00:05, 48.63it/s]\u001B[A\n",
      "Validation DataLoader 0:  48%|██████████████████████████████████████████████████████████████████▊                                                                       | 235/485 [00:04<00:05, 48.63it/s]\u001B[A\n",
      "Validation DataLoader 0:  49%|███████████████████████████████████████████████████████████████████▏                                                                      | 236/485 [00:04<00:05, 48.63it/s]\u001B[A\n",
      "Validation DataLoader 0:  49%|███████████████████████████████████████████████████████████████████▍                                                                      | 237/485 [00:04<00:05, 48.63it/s]\u001B[A\n",
      "Validation DataLoader 0:  49%|███████████████████████████████████████████████████████████████████▋                                                                      | 238/485 [00:04<00:05, 48.63it/s]\u001B[A\n",
      "Validation DataLoader 0:  49%|████████████████████████████████████████████████████████████████████                                                                      | 239/485 [00:04<00:05, 48.62it/s]\u001B[A\n",
      "Validation DataLoader 0:  49%|████████████████████████████████████████████████████████████████████▎                                                                     | 240/485 [00:04<00:05, 48.62it/s]\u001B[A\n",
      "Validation DataLoader 0:  50%|████████████████████████████████████████████████████████████████████▌                                                                     | 241/485 [00:04<00:05, 48.62it/s]\u001B[A\n",
      "Validation DataLoader 0:  50%|████████████████████████████████████████████████████████████████████▊                                                                     | 242/485 [00:04<00:04, 48.62it/s]\u001B[A\n",
      "Validation DataLoader 0:  50%|█████████████████████████████████████████████████████████████████████▏                                                                    | 243/485 [00:04<00:04, 48.62it/s]\u001B[A\n",
      "Validation DataLoader 0:  50%|█████████████████████████████████████████████████████████████████████▍                                                                    | 244/485 [00:05<00:04, 48.62it/s]\u001B[A\n",
      "Validation DataLoader 0:  51%|█████████████████████████████████████████████████████████████████████▋                                                                    | 245/485 [00:05<00:04, 48.61it/s]\u001B[A\n",
      "Validation DataLoader 0:  51%|█████████████████████████████████████████████████████████████████████▉                                                                    | 246/485 [00:05<00:04, 48.61it/s]\u001B[A\n",
      "Validation DataLoader 0:  51%|██████████████████████████████████████████████████████████████████████▎                                                                   | 247/485 [00:05<00:04, 48.61it/s]\u001B[A\n",
      "Validation DataLoader 0:  51%|██████████████████████████████████████████████████████████████████████▌                                                                   | 248/485 [00:05<00:04, 48.60it/s]\u001B[A\n",
      "Validation DataLoader 0:  51%|██████████████████████████████████████████████████████████████████████▊                                                                   | 249/485 [00:05<00:04, 48.59it/s]\u001B[A\n",
      "Validation DataLoader 0:  52%|███████████████████████████████████████████████████████████████████████▏                                                                  | 250/485 [00:05<00:04, 48.58it/s]\u001B[A\n",
      "Validation DataLoader 0:  52%|███████████████████████████████████████████████████████████████████████▍                                                                  | 251/485 [00:05<00:04, 48.55it/s]\u001B[A\n",
      "Validation DataLoader 0:  52%|███████████████████████████████████████████████████████████████████████▋                                                                  | 252/485 [00:05<00:04, 48.54it/s]\u001B[A\n",
      "Validation DataLoader 0:  52%|███████████████████████████████████████████████████████████████████████▉                                                                  | 253/485 [00:05<00:04, 48.53it/s]\u001B[A\n",
      "Validation DataLoader 0:  52%|████████████████████████████████████████████████████████████████████████▎                                                                 | 254/485 [00:05<00:04, 48.51it/s]\u001B[A\n",
      "Validation DataLoader 0:  53%|████████████████████████████████████████████████████████████████████████▌                                                                 | 255/485 [00:05<00:04, 48.49it/s]\u001B[A\n",
      "Validation DataLoader 0:  53%|████████████████████████████████████████████████████████████████████████▊                                                                 | 256/485 [00:05<00:04, 48.49it/s]\u001B[A\n",
      "Validation DataLoader 0:  53%|█████████████████████████████████████████████████████████████████████████▏                                                                | 257/485 [00:05<00:04, 48.48it/s]\u001B[A\n",
      "Validation DataLoader 0:  53%|█████████████████████████████████████████████████████████████████████████▍                                                                | 258/485 [00:05<00:04, 48.47it/s]\u001B[A\n",
      "Validation DataLoader 0:  53%|█████████████████████████████████████████████████████████████████████████▋                                                                | 259/485 [00:05<00:04, 48.46it/s]\u001B[A\n",
      "Validation DataLoader 0:  54%|█████████████████████████████████████████████████████████████████████████▉                                                                | 260/485 [00:05<00:04, 48.46it/s]\u001B[A\n",
      "Validation DataLoader 0:  54%|██████████████████████████████████████████████████████████████████████████▎                                                               | 261/485 [00:05<00:04, 48.46it/s]\u001B[A\n",
      "Validation DataLoader 0:  54%|██████████████████████████████████████████████████████████████████████████▌                                                               | 262/485 [00:05<00:04, 48.46it/s]\u001B[A\n",
      "Validation DataLoader 0:  54%|██████████████████████████████████████████████████████████████████████████▊                                                               | 263/485 [00:05<00:04, 48.46it/s]\u001B[A\n",
      "Validation DataLoader 0:  54%|███████████████████████████████████████████████████████████████████████████                                                               | 264/485 [00:05<00:04, 48.45it/s]\u001B[A\n",
      "Validation DataLoader 0:  55%|███████████████████████████████████████████████████████████████████████████▍                                                              | 265/485 [00:05<00:04, 48.45it/s]\u001B[A\n",
      "Validation DataLoader 0:  55%|███████████████████████████████████████████████████████████████████████████▋                                                              | 266/485 [00:05<00:04, 48.45it/s]\u001B[A\n",
      "Validation DataLoader 0:  55%|███████████████████████████████████████████████████████████████████████████▉                                                              | 267/485 [00:05<00:04, 48.44it/s]\u001B[A\n",
      "Validation DataLoader 0:  55%|████████████████████████████████████████████████████████████████████████████▎                                                             | 268/485 [00:05<00:04, 48.42it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  55%|████████████████████████████████████████████████████████████████████████████▌                                                             | 269/485 [00:05<00:04, 48.43it/s]\u001B[A\n",
      "Validation DataLoader 0:  56%|████████████████████████████████████████████████████████████████████████████▊                                                             | 270/485 [00:05<00:04, 48.42it/s]\u001B[A\n",
      "Validation DataLoader 0:  56%|█████████████████████████████████████████████████████████████████████████████                                                             | 271/485 [00:05<00:04, 48.42it/s]\u001B[A\n",
      "Validation DataLoader 0:  56%|█████████████████████████████████████████████████████████████████████████████▍                                                            | 272/485 [00:05<00:04, 48.42it/s]\u001B[A\n",
      "Validation DataLoader 0:  56%|█████████████████████████████████████████████████████████████████████████████▋                                                            | 273/485 [00:05<00:04, 48.41it/s]\u001B[A\n",
      "Validation DataLoader 0:  56%|█████████████████████████████████████████████████████████████████████████████▉                                                            | 274/485 [00:05<00:04, 48.40it/s]\u001B[A\n",
      "Validation DataLoader 0:  57%|██████████████████████████████████████████████████████████████████████████████▏                                                           | 275/485 [00:05<00:04, 48.40it/s]\u001B[A\n",
      "Validation DataLoader 0:  57%|██████████████████████████████████████████████████████████████████████████████▌                                                           | 276/485 [00:05<00:04, 48.40it/s]\u001B[A\n",
      "Validation DataLoader 0:  57%|██████████████████████████████████████████████████████████████████████████████▊                                                           | 277/485 [00:05<00:04, 48.40it/s]\u001B[A\n",
      "Validation DataLoader 0:  57%|███████████████████████████████████████████████████████████████████████████████                                                           | 278/485 [00:05<00:04, 48.39it/s]\u001B[A\n",
      "Validation DataLoader 0:  58%|███████████████████████████████████████████████████████████████████████████████▍                                                          | 279/485 [00:05<00:04, 48.39it/s]\u001B[A\n",
      "Validation DataLoader 0:  58%|███████████████████████████████████████████████████████████████████████████████▋                                                          | 280/485 [00:05<00:04, 48.38it/s]\u001B[A\n",
      "Validation DataLoader 0:  58%|███████████████████████████████████████████████████████████████████████████████▉                                                          | 281/485 [00:05<00:04, 48.39it/s]\u001B[A\n",
      "Validation DataLoader 0:  58%|████████████████████████████████████████████████████████████████████████████████▏                                                         | 282/485 [00:05<00:04, 48.38it/s]\u001B[A\n",
      "Validation DataLoader 0:  58%|████████████████████████████████████████████████████████████████████████████████▌                                                         | 283/485 [00:05<00:04, 48.38it/s]\u001B[A\n",
      "Validation DataLoader 0:  59%|████████████████████████████████████████████████████████████████████████████████▊                                                         | 284/485 [00:05<00:04, 48.37it/s]\u001B[A\n",
      "Validation DataLoader 0:  59%|█████████████████████████████████████████████████████████████████████████████████                                                         | 285/485 [00:05<00:04, 48.37it/s]\u001B[A\n",
      "Validation DataLoader 0:  59%|█████████████████████████████████████████████████████████████████████████████████▍                                                        | 286/485 [00:05<00:04, 48.37it/s]\u001B[A\n",
      "Validation DataLoader 0:  59%|█████████████████████████████████████████████████████████████████████████████████▋                                                        | 287/485 [00:05<00:04, 48.36it/s]\u001B[A\n",
      "Validation DataLoader 0:  59%|█████████████████████████████████████████████████████████████████████████████████▉                                                        | 288/485 [00:05<00:04, 48.37it/s]\u001B[A\n",
      "Validation DataLoader 0:  60%|██████████████████████████████████████████████████████████████████████████████████▏                                                       | 289/485 [00:05<00:04, 48.37it/s]\u001B[A\n",
      "Validation DataLoader 0:  60%|██████████████████████████████████████████████████████████████████████████████████▌                                                       | 290/485 [00:05<00:04, 48.36it/s]\u001B[A\n",
      "Validation DataLoader 0:  60%|██████████████████████████████████████████████████████████████████████████████████▊                                                       | 291/485 [00:06<00:04, 48.36it/s]\u001B[A\n",
      "Validation DataLoader 0:  60%|███████████████████████████████████████████████████████████████████████████████████                                                       | 292/485 [00:06<00:03, 48.36it/s]\u001B[A\n",
      "Validation DataLoader 0:  60%|███████████████████████████████████████████████████████████████████████████████████▎                                                      | 293/485 [00:06<00:03, 48.35it/s]\u001B[A\n",
      "Validation DataLoader 0:  61%|███████████████████████████████████████████████████████████████████████████████████▋                                                      | 294/485 [00:06<00:03, 48.35it/s]\u001B[A\n",
      "Validation DataLoader 0:  61%|███████████████████████████████████████████████████████████████████████████████████▉                                                      | 295/485 [00:06<00:03, 48.34it/s]\u001B[A\n",
      "Validation DataLoader 0:  61%|████████████████████████████████████████████████████████████████████████████████████▏                                                     | 296/485 [00:06<00:03, 48.33it/s]\u001B[A\n",
      "Validation DataLoader 0:  61%|████████████████████████████████████████████████████████████████████████████████████▌                                                     | 297/485 [00:06<00:03, 48.33it/s]\u001B[A\n",
      "Validation DataLoader 0:  61%|████████████████████████████████████████████████████████████████████████████████████▊                                                     | 298/485 [00:06<00:03, 48.31it/s]\u001B[A\n",
      "Validation DataLoader 0:  62%|█████████████████████████████████████████████████████████████████████████████████████                                                     | 299/485 [00:06<00:03, 48.31it/s]\u001B[A\n",
      "Validation DataLoader 0:  62%|█████████████████████████████████████████████████████████████████████████████████████▎                                                    | 300/485 [00:06<00:03, 48.30it/s]\u001B[A\n",
      "Validation DataLoader 0:  62%|█████████████████████████████████████████████████████████████████████████████████████▋                                                    | 301/485 [00:06<00:03, 48.29it/s]\u001B[A\n",
      "Validation DataLoader 0:  62%|█████████████████████████████████████████████████████████████████████████████████████▉                                                    | 302/485 [00:06<00:03, 48.27it/s]\u001B[A\n",
      "Validation DataLoader 0:  62%|██████████████████████████████████████████████████████████████████████████████████████▏                                                   | 303/485 [00:06<00:03, 48.27it/s]\u001B[A\n",
      "Validation DataLoader 0:  63%|██████████████████████████████████████████████████████████████████████████████████████▍                                                   | 304/485 [00:06<00:03, 48.27it/s]\u001B[A\n",
      "Validation DataLoader 0:  63%|██████████████████████████████████████████████████████████████████████████████████████▊                                                   | 305/485 [00:06<00:03, 48.27it/s]\u001B[A\n",
      "Validation DataLoader 0:  63%|███████████████████████████████████████████████████████████████████████████████████████                                                   | 306/485 [00:06<00:03, 48.27it/s]\u001B[A\n",
      "Validation DataLoader 0:  63%|███████████████████████████████████████████████████████████████████████████████████████▎                                                  | 307/485 [00:06<00:03, 48.26it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  64%|███████████████████████████████████████████████████████████████████████████████████████▋                                                  | 308/485 [00:06<00:03, 48.25it/s]\u001B[A\n",
      "Validation DataLoader 0:  64%|███████████████████████████████████████████████████████████████████████████████████████▉                                                  | 309/485 [00:06<00:03, 48.25it/s]\u001B[A\n",
      "Validation DataLoader 0:  64%|████████████████████████████████████████████████████████████████████████████████████████▏                                                 | 310/485 [00:06<00:03, 48.21it/s]\u001B[A\n",
      "Validation DataLoader 0:  64%|████████████████████████████████████████████████████████████████████████████████████████▍                                                 | 311/485 [00:06<00:03, 48.21it/s]\u001B[A\n",
      "Validation DataLoader 0:  64%|████████████████████████████████████████████████████████████████████████████████████████▊                                                 | 312/485 [00:06<00:03, 48.22it/s]\u001B[A\n",
      "Validation DataLoader 0:  65%|█████████████████████████████████████████████████████████████████████████████████████████                                                 | 313/485 [00:06<00:03, 48.21it/s]\u001B[A\n",
      "Validation DataLoader 0:  65%|█████████████████████████████████████████████████████████████████████████████████████████▎                                                | 314/485 [00:06<00:03, 48.21it/s]\u001B[A\n",
      "Validation DataLoader 0:  65%|█████████████████████████████████████████████████████████████████████████████████████████▋                                                | 315/485 [00:06<00:03, 48.20it/s]\u001B[A\n",
      "Validation DataLoader 0:  65%|█████████████████████████████████████████████████████████████████████████████████████████▉                                                | 316/485 [00:06<00:03, 48.19it/s]\u001B[A\n",
      "Validation DataLoader 0:  65%|██████████████████████████████████████████████████████████████████████████████████████████▏                                               | 317/485 [00:06<00:03, 48.18it/s]\u001B[A\n",
      "Validation DataLoader 0:  66%|██████████████████████████████████████████████████████████████████████████████████████████▍                                               | 318/485 [00:06<00:03, 48.17it/s]\u001B[A\n",
      "Validation DataLoader 0:  66%|██████████████████████████████████████████████████████████████████████████████████████████▊                                               | 319/485 [00:06<00:03, 48.17it/s]\u001B[A\n",
      "Validation DataLoader 0:  66%|███████████████████████████████████████████████████████████████████████████████████████████                                               | 320/485 [00:06<00:03, 48.16it/s]\u001B[A\n",
      "Validation DataLoader 0:  66%|███████████████████████████████████████████████████████████████████████████████████████████▎                                              | 321/485 [00:06<00:03, 48.15it/s]\u001B[A\n",
      "Validation DataLoader 0:  66%|███████████████████████████████████████████████████████████████████████████████████████████▌                                              | 322/485 [00:06<00:03, 48.15it/s]\u001B[A\n",
      "Validation DataLoader 0:  67%|███████████████████████████████████████████████████████████████████████████████████████████▉                                              | 323/485 [00:06<00:03, 48.13it/s]\u001B[A\n",
      "Validation DataLoader 0:  67%|████████████████████████████████████████████████████████████████████████████████████████████▏                                             | 324/485 [00:06<00:03, 48.11it/s]\u001B[A\n",
      "Validation DataLoader 0:  67%|████████████████████████████████████████████████████████████████████████████████████████████▍                                             | 325/485 [00:06<00:03, 48.11it/s]\u001B[A\n",
      "Validation DataLoader 0:  67%|████████████████████████████████████████████████████████████████████████████████████████████▊                                             | 326/485 [00:06<00:03, 48.11it/s]\u001B[A\n",
      "Validation DataLoader 0:  67%|█████████████████████████████████████████████████████████████████████████████████████████████                                             | 327/485 [00:06<00:03, 48.11it/s]\u001B[A\n",
      "Validation DataLoader 0:  68%|█████████████████████████████████████████████████████████████████████████████████████████████▎                                            | 328/485 [00:06<00:03, 48.11it/s]\u001B[A\n",
      "Validation DataLoader 0:  68%|█████████████████████████████████████████████████████████████████████████████████████████████▌                                            | 329/485 [00:06<00:03, 48.10it/s]\u001B[A\n",
      "Validation DataLoader 0:  68%|█████████████████████████████████████████████████████████████████████████████████████████████▉                                            | 330/485 [00:06<00:03, 48.10it/s]\u001B[A\n",
      "Validation DataLoader 0:  68%|██████████████████████████████████████████████████████████████████████████████████████████████▏                                           | 331/485 [00:06<00:03, 48.10it/s]\u001B[A\n",
      "Validation DataLoader 0:  68%|██████████████████████████████████████████████████████████████████████████████████████████████▍                                           | 332/485 [00:06<00:03, 48.10it/s]\u001B[A\n",
      "Validation DataLoader 0:  69%|██████████████████████████████████████████████████████████████████████████████████████████████▊                                           | 333/485 [00:06<00:03, 48.10it/s]\u001B[A\n",
      "Validation DataLoader 0:  69%|███████████████████████████████████████████████████████████████████████████████████████████████                                           | 334/485 [00:06<00:03, 48.10it/s]\u001B[A\n",
      "Validation DataLoader 0:  69%|███████████████████████████████████████████████████████████████████████████████████████████████▎                                          | 335/485 [00:06<00:03, 48.09it/s]\u001B[A\n",
      "Validation DataLoader 0:  69%|███████████████████████████████████████████████████████████████████████████████████████████████▌                                          | 336/485 [00:06<00:03, 48.09it/s]\u001B[A\n",
      "Validation DataLoader 0:  69%|███████████████████████████████████████████████████████████████████████████████████████████████▉                                          | 337/485 [00:07<00:03, 48.09it/s]\u001B[A\n",
      "Validation DataLoader 0:  70%|████████████████████████████████████████████████████████████████████████████████████████████████▏                                         | 338/485 [00:07<00:03, 48.08it/s]\u001B[A\n",
      "Validation DataLoader 0:  70%|████████████████████████████████████████████████████████████████████████████████████████████████▍                                         | 339/485 [00:07<00:03, 48.07it/s]\u001B[A\n",
      "Validation DataLoader 0:  70%|████████████████████████████████████████████████████████████████████████████████████████████████▋                                         | 340/485 [00:07<00:03, 48.07it/s]\u001B[A\n",
      "Validation DataLoader 0:  70%|█████████████████████████████████████████████████████████████████████████████████████████████████                                         | 341/485 [00:07<00:02, 48.07it/s]\u001B[A\n",
      "Validation DataLoader 0:  71%|█████████████████████████████████████████████████████████████████████████████████████████████████▎                                        | 342/485 [00:07<00:02, 48.06it/s]\u001B[A\n",
      "Validation DataLoader 0:  71%|█████████████████████████████████████████████████████████████████████████████████████████████████▌                                        | 343/485 [00:07<00:02, 48.06it/s]\u001B[A\n",
      "Validation DataLoader 0:  71%|█████████████████████████████████████████████████████████████████████████████████████████████████▉                                        | 344/485 [00:07<00:02, 48.06it/s]\u001B[A\n",
      "Validation DataLoader 0:  71%|██████████████████████████████████████████████████████████████████████████████████████████████████▏                                       | 345/485 [00:07<00:02, 48.05it/s]\u001B[A\n",
      "Validation DataLoader 0:  71%|██████████████████████████████████████████████████████████████████████████████████████████████████▍                                       | 346/485 [00:07<00:02, 48.04it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  72%|██████████████████████████████████████████████████████████████████████████████████████████████████▋                                       | 347/485 [00:07<00:02, 48.04it/s]\u001B[A\n",
      "Validation DataLoader 0:  72%|███████████████████████████████████████████████████████████████████████████████████████████████████                                       | 348/485 [00:07<00:02, 48.03it/s]\u001B[A\n",
      "Validation DataLoader 0:  72%|███████████████████████████████████████████████████████████████████████████████████████████████████▎                                      | 349/485 [00:07<00:02, 48.03it/s]\u001B[A\n",
      "Validation DataLoader 0:  72%|███████████████████████████████████████████████████████████████████████████████████████████████████▌                                      | 350/485 [00:07<00:02, 48.03it/s]\u001B[A\n",
      "Validation DataLoader 0:  72%|███████████████████████████████████████████████████████████████████████████████████████████████████▊                                      | 351/485 [00:07<00:02, 48.02it/s]\u001B[A\n",
      "Validation DataLoader 0:  73%|████████████████████████████████████████████████████████████████████████████████████████████████████▏                                     | 352/485 [00:07<00:02, 48.02it/s]\u001B[A\n",
      "Validation DataLoader 0:  73%|████████████████████████████████████████████████████████████████████████████████████████████████████▍                                     | 353/485 [00:07<00:02, 48.01it/s]\u001B[A\n",
      "Validation DataLoader 0:  73%|████████████████████████████████████████████████████████████████████████████████████████████████████▋                                     | 354/485 [00:07<00:02, 48.01it/s]\u001B[A\n",
      "Validation DataLoader 0:  73%|█████████████████████████████████████████████████████████████████████████████████████████████████████                                     | 355/485 [00:07<00:02, 48.01it/s]\u001B[A\n",
      "Validation DataLoader 0:  73%|█████████████████████████████████████████████████████████████████████████████████████████████████████▎                                    | 356/485 [00:07<00:02, 48.00it/s]\u001B[A\n",
      "Validation DataLoader 0:  74%|█████████████████████████████████████████████████████████████████████████████████████████████████████▌                                    | 357/485 [00:07<00:02, 48.00it/s]\u001B[A\n",
      "Validation DataLoader 0:  74%|█████████████████████████████████████████████████████████████████████████████████████████████████████▊                                    | 358/485 [00:07<00:02, 47.99it/s]\u001B[A\n",
      "Validation DataLoader 0:  74%|██████████████████████████████████████████████████████████████████████████████████████████████████████▏                                   | 359/485 [00:07<00:02, 48.00it/s]\u001B[A\n",
      "Validation DataLoader 0:  74%|██████████████████████████████████████████████████████████████████████████████████████████████████████▍                                   | 360/485 [00:07<00:02, 47.99it/s]\u001B[A\n",
      "Validation DataLoader 0:  74%|██████████████████████████████████████████████████████████████████████████████████████████████████████▋                                   | 361/485 [00:07<00:02, 47.99it/s]\u001B[A\n",
      "Validation DataLoader 0:  75%|███████████████████████████████████████████████████████████████████████████████████████████████████████                                   | 362/485 [00:07<00:02, 47.98it/s]\u001B[A\n",
      "Validation DataLoader 0:  75%|███████████████████████████████████████████████████████████████████████████████████████████████████████▎                                  | 363/485 [00:07<00:02, 47.97it/s]\u001B[A\n",
      "Validation DataLoader 0:  75%|███████████████████████████████████████████████████████████████████████████████████████████████████████▌                                  | 364/485 [00:07<00:02, 47.97it/s]\u001B[A\n",
      "Validation DataLoader 0:  75%|███████████████████████████████████████████████████████████████████████████████████████████████████████▊                                  | 365/485 [00:07<00:02, 47.97it/s]\u001B[A\n",
      "Validation DataLoader 0:  75%|████████████████████████████████████████████████████████████████████████████████████████████████████████▏                                 | 366/485 [00:07<00:02, 47.97it/s]\u001B[A\n",
      "Validation DataLoader 0:  76%|████████████████████████████████████████████████████████████████████████████████████████████████████████▍                                 | 367/485 [00:07<00:02, 47.96it/s]\u001B[A\n",
      "Validation DataLoader 0:  76%|████████████████████████████████████████████████████████████████████████████████████████████████████████▋                                 | 368/485 [00:07<00:02, 47.96it/s]\u001B[A\n",
      "Validation DataLoader 0:  76%|████████████████████████████████████████████████████████████████████████████████████████████████████████▉                                 | 369/485 [00:07<00:02, 47.95it/s]\u001B[A\n",
      "Validation DataLoader 0:  76%|█████████████████████████████████████████████████████████████████████████████████████████████████████████▎                                | 370/485 [00:07<00:02, 47.95it/s]\u001B[A\n",
      "Validation DataLoader 0:  76%|█████████████████████████████████████████████████████████████████████████████████████████████████████████▌                                | 371/485 [00:07<00:02, 47.95it/s]\u001B[A\n",
      "Validation DataLoader 0:  77%|█████████████████████████████████████████████████████████████████████████████████████████████████████████▊                                | 372/485 [00:07<00:02, 47.95it/s]\u001B[A\n",
      "Validation DataLoader 0:  77%|██████████████████████████████████████████████████████████████████████████████████████████████████████████▏                               | 373/485 [00:07<00:02, 47.94it/s]\u001B[A\n",
      "Validation DataLoader 0:  77%|██████████████████████████████████████████████████████████████████████████████████████████████████████████▍                               | 374/485 [00:07<00:02, 47.94it/s]\u001B[A\n",
      "Validation DataLoader 0:  77%|██████████████████████████████████████████████████████████████████████████████████████████████████████████▋                               | 375/485 [00:07<00:02, 47.94it/s]\u001B[A\n",
      "Validation DataLoader 0:  78%|██████████████████████████████████████████████████████████████████████████████████████████████████████████▉                               | 376/485 [00:07<00:02, 47.94it/s]\u001B[A\n",
      "Validation DataLoader 0:  78%|███████████████████████████████████████████████████████████████████████████████████████████████████████████▎                              | 377/485 [00:07<00:02, 47.95it/s]\u001B[A\n",
      "Validation DataLoader 0:  78%|███████████████████████████████████████████████████████████████████████████████████████████████████████████▌                              | 378/485 [00:07<00:02, 47.95it/s]\u001B[A\n",
      "Validation DataLoader 0:  78%|███████████████████████████████████████████████████████████████████████████████████████████████████████████▊                              | 379/485 [00:07<00:02, 47.95it/s]\u001B[A\n",
      "Validation DataLoader 0:  78%|████████████████████████████████████████████████████████████████████████████████████████████████████████████                              | 380/485 [00:07<00:02, 47.95it/s]\u001B[A\n",
      "Validation DataLoader 0:  79%|████████████████████████████████████████████████████████████████████████████████████████████████████████████▍                             | 381/485 [00:07<00:02, 47.95it/s]\u001B[A\n",
      "Validation DataLoader 0:  79%|████████████████████████████████████████████████████████████████████████████████████████████████████████████▋                             | 382/485 [00:07<00:02, 47.95it/s]\u001B[A\n",
      "Validation DataLoader 0:  79%|████████████████████████████████████████████████████████████████████████████████████████████████████████████▉                             | 383/485 [00:07<00:02, 47.95it/s]\u001B[A\n",
      "Validation DataLoader 0:  79%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████▎                            | 384/485 [00:08<00:02, 47.95it/s]\u001B[A\n",
      "Validation DataLoader 0:  79%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████▌                            | 385/485 [00:08<00:02, 47.94it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  80%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████▊                            | 386/485 [00:08<00:02, 47.95it/s]\u001B[A\n",
      "Validation DataLoader 0:  80%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████                            | 387/485 [00:08<00:02, 47.95it/s]\u001B[A\n",
      "Validation DataLoader 0:  80%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████▍                           | 388/485 [00:08<00:02, 47.95it/s]\u001B[A\n",
      "Validation DataLoader 0:  80%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████▋                           | 389/485 [00:08<00:02, 47.96it/s]\u001B[A\n",
      "Validation DataLoader 0:  80%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████▉                           | 390/485 [00:08<00:01, 47.96it/s]\u001B[A\n",
      "Validation DataLoader 0:  81%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████▎                          | 391/485 [00:08<00:01, 47.96it/s]\u001B[A\n",
      "Validation DataLoader 0:  81%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████▌                          | 392/485 [00:08<00:01, 47.96it/s]\u001B[A\n",
      "Validation DataLoader 0:  81%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████▊                          | 393/485 [00:08<00:01, 47.95it/s]\u001B[A\n",
      "Validation DataLoader 0:  81%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████                          | 394/485 [00:08<00:01, 47.95it/s]\u001B[A\n",
      "Validation DataLoader 0:  81%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍                         | 395/485 [00:08<00:01, 47.95it/s]\u001B[A\n",
      "Validation DataLoader 0:  82%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋                         | 396/485 [00:08<00:01, 47.95it/s]\u001B[A\n",
      "Validation DataLoader 0:  82%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉                         | 397/485 [00:08<00:01, 47.95it/s]\u001B[A\n",
      "Validation DataLoader 0:  82%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏                        | 398/485 [00:08<00:01, 47.95it/s]\u001B[A\n",
      "Validation DataLoader 0:  82%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌                        | 399/485 [00:08<00:01, 47.95it/s]\u001B[A\n",
      "Validation DataLoader 0:  82%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊                        | 400/485 [00:08<00:01, 47.94it/s]\u001B[A\n",
      "Validation DataLoader 0:  83%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████                        | 401/485 [00:08<00:01, 47.94it/s]\u001B[A\n",
      "Validation DataLoader 0:  83%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍                       | 402/485 [00:08<00:01, 47.94it/s]\u001B[A\n",
      "Validation DataLoader 0:  83%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋                       | 403/485 [00:08<00:01, 47.95it/s]\u001B[A\n",
      "Validation DataLoader 0:  83%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉                       | 404/485 [00:08<00:01, 47.94it/s]\u001B[A\n",
      "Validation DataLoader 0:  84%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏                      | 405/485 [00:08<00:01, 47.94it/s]\u001B[A\n",
      "Validation DataLoader 0:  84%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌                      | 406/485 [00:08<00:01, 47.94it/s]\u001B[A\n",
      "Validation DataLoader 0:  84%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊                      | 407/485 [00:08<00:01, 47.94it/s]\u001B[A\n",
      "Validation DataLoader 0:  84%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████                      | 408/485 [00:08<00:01, 47.94it/s]\u001B[A\n",
      "Validation DataLoader 0:  84%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍                     | 409/485 [00:08<00:01, 47.93it/s]\u001B[A\n",
      "Validation DataLoader 0:  85%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋                     | 410/485 [00:08<00:01, 47.94it/s]\u001B[A\n",
      "Validation DataLoader 0:  85%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉                     | 411/485 [00:08<00:01, 47.95it/s]\u001B[A\n",
      "Validation DataLoader 0:  85%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏                    | 412/485 [00:08<00:01, 47.95it/s]\u001B[A\n",
      "Validation DataLoader 0:  85%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌                    | 413/485 [00:08<00:01, 47.95it/s]\u001B[A\n",
      "Validation DataLoader 0:  85%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊                    | 414/485 [00:08<00:01, 47.95it/s]\u001B[A\n",
      "Validation DataLoader 0:  86%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████                    | 415/485 [00:08<00:01, 47.94it/s]\u001B[A\n",
      "Validation DataLoader 0:  86%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎                   | 416/485 [00:08<00:01, 47.94it/s]\u001B[A\n",
      "Validation DataLoader 0:  86%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋                   | 417/485 [00:08<00:01, 47.94it/s]\u001B[A\n",
      "Validation DataLoader 0:  86%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉                   | 418/485 [00:08<00:01, 47.94it/s]\u001B[A\n",
      "Validation DataLoader 0:  86%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏                  | 419/485 [00:08<00:01, 47.94it/s]\u001B[A\n",
      "Validation DataLoader 0:  87%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌                  | 420/485 [00:08<00:01, 47.94it/s]\u001B[A\n",
      "Validation DataLoader 0:  87%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊                  | 421/485 [00:08<00:01, 47.93it/s]\u001B[A\n",
      "Validation DataLoader 0:  87%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████                  | 422/485 [00:08<00:01, 47.93it/s]\u001B[A\n",
      "Validation DataLoader 0:  87%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎                 | 423/485 [00:08<00:01, 47.93it/s]\u001B[A\n",
      "Validation DataLoader 0:  87%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋                 | 424/485 [00:08<00:01, 47.93it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  88%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉                 | 425/485 [00:08<00:01, 47.93it/s]\u001B[A\n",
      "Validation DataLoader 0:  88%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏                | 426/485 [00:08<00:01, 47.93it/s]\u001B[A\n",
      "Validation DataLoader 0:  88%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍                | 427/485 [00:08<00:01, 47.93it/s]\u001B[A\n",
      "Validation DataLoader 0:  88%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊                | 428/485 [00:08<00:01, 47.93it/s]\u001B[A\n",
      "Validation DataLoader 0:  88%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████                | 429/485 [00:08<00:01, 47.93it/s]\u001B[A\n",
      "Validation DataLoader 0:  89%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎               | 430/485 [00:08<00:01, 47.93it/s]\u001B[A\n",
      "Validation DataLoader 0:  89%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋               | 431/485 [00:08<00:01, 47.92it/s]\u001B[A\n",
      "Validation DataLoader 0:  89%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉               | 432/485 [00:09<00:01, 47.92it/s]\u001B[A\n",
      "Validation DataLoader 0:  89%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏              | 433/485 [00:09<00:01, 47.91it/s]\u001B[A\n",
      "Validation DataLoader 0:  89%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍              | 434/485 [00:09<00:01, 47.91it/s]\u001B[A\n",
      "Validation DataLoader 0:  90%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊              | 435/485 [00:09<00:01, 47.91it/s]\u001B[A\n",
      "Validation DataLoader 0:  90%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████              | 436/485 [00:09<00:01, 47.90it/s]\u001B[A\n",
      "Validation DataLoader 0:  90%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎             | 437/485 [00:09<00:01, 47.90it/s]\u001B[A\n",
      "Validation DataLoader 0:  90%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋             | 438/485 [00:09<00:00, 47.89it/s]\u001B[A\n",
      "Validation DataLoader 0:  91%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉             | 439/485 [00:09<00:00, 47.89it/s]\u001B[A\n",
      "Validation DataLoader 0:  91%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏            | 440/485 [00:09<00:00, 47.89it/s]\u001B[A\n",
      "Validation DataLoader 0:  91%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍            | 441/485 [00:09<00:00, 47.89it/s]\u001B[A\n",
      "Validation DataLoader 0:  91%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊            | 442/485 [00:09<00:00, 47.89it/s]\u001B[A\n",
      "Validation DataLoader 0:  91%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████            | 443/485 [00:09<00:00, 47.86it/s]\u001B[A\n",
      "Validation DataLoader 0:  92%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎           | 444/485 [00:09<00:00, 47.86it/s]\u001B[A\n",
      "Validation DataLoader 0:  92%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌           | 445/485 [00:09<00:00, 47.84it/s]\u001B[A\n",
      "Validation DataLoader 0:  92%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉           | 446/485 [00:09<00:00, 47.84it/s]\u001B[A\n",
      "Validation DataLoader 0:  92%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏          | 447/485 [00:09<00:00, 47.83it/s]\u001B[A\n",
      "Validation DataLoader 0:  92%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍          | 448/485 [00:09<00:00, 47.81it/s]\u001B[A\n",
      "Validation DataLoader 0:  93%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊          | 449/485 [00:09<00:00, 47.79it/s]\u001B[A\n",
      "Validation DataLoader 0:  93%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████          | 450/485 [00:09<00:00, 47.77it/s]\u001B[A\n",
      "Validation DataLoader 0:  93%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎         | 451/485 [00:09<00:00, 47.76it/s]\u001B[A\n",
      "Validation DataLoader 0:  93%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌         | 452/485 [00:09<00:00, 47.76it/s]\u001B[A\n",
      "Validation DataLoader 0:  93%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉         | 453/485 [00:09<00:00, 47.76it/s]\u001B[A\n",
      "Validation DataLoader 0:  94%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏        | 454/485 [00:09<00:00, 47.76it/s]\u001B[A\n",
      "Validation DataLoader 0:  94%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍        | 455/485 [00:09<00:00, 47.76it/s]\u001B[A\n",
      "Validation DataLoader 0:  94%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋        | 456/485 [00:09<00:00, 47.76it/s]\u001B[A\n",
      "Validation DataLoader 0:  94%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████        | 457/485 [00:09<00:00, 47.76it/s]\u001B[A\n",
      "Validation DataLoader 0:  94%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎       | 458/485 [00:09<00:00, 47.76it/s]\u001B[A\n",
      "Validation DataLoader 0:  95%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌       | 459/485 [00:09<00:00, 47.77it/s]\u001B[A\n",
      "Validation DataLoader 0:  95%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉       | 460/485 [00:09<00:00, 47.75it/s]\u001B[A\n",
      "Validation DataLoader 0:  95%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏      | 461/485 [00:09<00:00, 47.76it/s]\u001B[A\n",
      "Validation DataLoader 0:  95%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍      | 462/485 [00:09<00:00, 47.76it/s]\u001B[A\n",
      "Validation DataLoader 0:  95%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋      | 463/485 [00:09<00:00, 47.76it/s]\u001B[A\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Validation DataLoader 0:  96%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████      | 464/485 [00:09<00:00, 47.76it/s]\u001B[A\n",
      "Validation DataLoader 0:  96%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎     | 465/485 [00:09<00:00, 47.77it/s]\u001B[A\n",
      "Validation DataLoader 0:  96%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌     | 466/485 [00:09<00:00, 47.77it/s]\u001B[A\n",
      "Validation DataLoader 0:  96%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▉     | 467/485 [00:09<00:00, 47.77it/s]\u001B[A\n",
      "Validation DataLoader 0:  96%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏    | 468/485 [00:09<00:00, 47.77it/s]\u001B[A\n",
      "Validation DataLoader 0:  97%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍    | 469/485 [00:09<00:00, 47.76it/s]\u001B[A\n",
      "Validation DataLoader 0:  97%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋    | 470/485 [00:09<00:00, 47.76it/s]\u001B[A\n",
      "Validation DataLoader 0:  97%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████    | 471/485 [00:09<00:00, 47.75it/s]\u001B[A\n",
      "Validation DataLoader 0:  97%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎   | 472/485 [00:09<00:00, 47.75it/s]\u001B[A\n",
      "Validation DataLoader 0:  98%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌   | 473/485 [00:09<00:00, 47.75it/s]\u001B[A\n",
      "Validation DataLoader 0:  98%|██████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊   | 474/485 [00:09<00:00, 47.74it/s]\u001B[A\n",
      "Validation DataLoader 0:  98%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏  | 475/485 [00:09<00:00, 47.74it/s]\u001B[A\n",
      "Validation DataLoader 0:  98%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍  | 476/485 [00:09<00:00, 47.74it/s]\u001B[A\n",
      "Validation DataLoader 0:  98%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋  | 477/485 [00:09<00:00, 47.74it/s]\u001B[A\n",
      "Validation DataLoader 0:  99%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████  | 478/485 [00:10<00:00, 47.73it/s]\u001B[A\n",
      "Validation DataLoader 0:  99%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▎ | 479/485 [00:10<00:00, 47.73it/s]\u001B[A\n",
      "Validation DataLoader 0:  99%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▌ | 480/485 [00:10<00:00, 47.73it/s]\u001B[A\n",
      "Validation DataLoader 0:  99%|████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▊ | 481/485 [00:10<00:00, 47.73it/s]\u001B[A\n",
      "Validation DataLoader 0:  99%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏| 482/485 [00:10<00:00, 47.72it/s]\u001B[A\n",
      "Validation DataLoader 0: 100%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▍| 483/485 [00:10<00:00, 47.72it/s]\u001B[A\n",
      "Validation DataLoader 0: 100%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▋| 484/485 [00:10<00:00, 47.72it/s]\u001B[A\n",
      "Epoch 4: 100%|███████████████████████████████████████████████████████████████████████████████████████████████████████████| 1453/1453 [03:01<00:00,  8.02it/s, v_num=103, train_loss=1.040, val_loss=1.240]\u001B[A\n",
      "Epoch 4: 100%|███████████████████████████████████████████████████████████████████████████████████████████████████████████| 1453/1453 [03:01<00:00,  8.02it/s, v_num=103, train_loss=1.040, val_loss=1.240]\u001B[A"
     ]
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "`Trainer.fit` stopped: `max_epochs=5` reached.\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Epoch 4: 100%|███████████████████████████████████████████████████████████████████████████████████████████████████████████| 1453/1453 [03:01<00:00,  8.00it/s, v_num=103, train_loss=1.040, val_loss=1.240]\n"
     ]
    }
   ],
   "source": [
    "trainer = pl.Trainer(max_epochs=5,\n",
    "                     logger=pl.loggers.TensorBoardLogger('./voc'),\n",
    "                     log_every_n_steps=1) \n",
    "trainer.fit(model=model, train_dataloaders=train, val_dataloaders=val) "
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 35,
   "id": "3ffd584c",
   "metadata": {},
   "outputs": [
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Saving mode!\n"
     ]
    }
   ],
   "source": [
    "if True:\n",
    "    print(\"Saving mode!\") \n",
    "    torch.save(model.state_dict(), \"imitation_model_weights\") "
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 36,
   "id": "b084afa8",
   "metadata": {},
   "outputs": [],
   "source": [
    "direct_mappings = {}\n",
    "\n",
    "for key in categorical_variables:\n",
    "    val = categorical_variables[key]\n",
    "    direct_mappings[val] = key \n",
    "\n",
    "def predict(img):\n",
    "    preds = model(img) \n",
    "    pred_idx = highest_idx(preds)\n",
    "    \n",
    "    return direct_mappings[pred_idx] \n",
    "    "
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 37,
   "id": "07ddee0d",
   "metadata": {},
   "outputs": [],
   "source": [
    "test_files = []\n",
    "\n",
    "for file in os.listdir(\"Images/\"):\n",
    "    img = load_and_clean(f\"Images/{file}\")\n",
    "    test_files.append(img)\n",
    "    \n",
    "     "
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 38,
   "id": "6b66c438",
   "metadata": {},
   "outputs": [
    {
     "ename": "IndexError",
     "evalue": "list index out of range",
     "output_type": "error",
     "traceback": [
      "\u001B[0;31m---------------------------------------------------------------------------\u001B[0m",
      "\u001B[0;31mIndexError\u001B[0m                                Traceback (most recent call last)",
      "Cell \u001B[0;32mIn[38], line 1\u001B[0m\n\u001B[0;32m----> 1\u001B[0m img \u001B[38;5;241m=\u001B[39m \u001B[43mtest_files\u001B[49m\u001B[43m[\u001B[49m\u001B[38;5;241;43m1\u001B[39;49m\u001B[43m]\u001B[49m\n\u001B[1;32m      3\u001B[0m show(img)\n\u001B[1;32m      4\u001B[0m direct \u001B[38;5;241m=\u001B[39m predict(img) \n",
      "\u001B[0;31mIndexError\u001B[0m: list index out of range"
     ]
    }
   ],
   "source": [
    "img = test_files[1]\n",
    "\n",
    "show(img)\n",
    "direct = predict(img) \n",
    "print(direct) "
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 39,
   "id": "635294af",
   "metadata": {},
   "outputs": [
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Saving mode!\n"
     ]
    }
   ],
   "source": [
    "if True:\n",
    "    print(\"Saving mode!\") \n",
    "    torch.save(model.state_dict(), \"imitation_model_weights\") "
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 40,
   "id": "65d20ff5",
   "metadata": {},
   "outputs": [
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "{0: 'up', 1: 'up left', 2: 'right', 3: 'up right', 4: 'left', 5: ''}\n"
     ]
    }
   ],
   "source": [
    "print(direct_mappings) "
   ]
  },
  {
   "cell_type": "code",
   "execution_count": null,
   "id": "7fac7df7",
   "metadata": {},
   "outputs": [],
   "source": []
  }
 ],
 "metadata": {
  "kernelspec": {
   "display_name": "Python 3 (ipykernel)",
   "language": "python",
   "name": "python3"
  },
  "language_info": {
   "codemirror_mode": {
    "name": "ipython",
    "version": 3
   },
   "file_extension": ".py",
   "mimetype": "text/x-python",
   "name": "python",
   "nbconvert_exporter": "python",
   "pygments_lexer": "ipython3",
   "version": "3.8.16"
  }
 },
 "nbformat": 4,
 "nbformat_minor": 5
}