Una recopilación de ñoñerías chicas que he hecho como usuario de Fintual.
Importante: no formo parte del equipo de fintual, todo lo que está acá no es responsabilidad de ellos. Todo lo que está acá puede fallar si el sitio o API de fintual cambia.
Una recopilación de ñoñerías chicas que he hecho como usuario de Fintual.
Importante: no formo parte del equipo de fintual, todo lo que está acá no es responsabilidad de ellos. Todo lo que está acá puede fallar si el sitio o API de fintual cambia.
create database test_db;
create table t_random as select s, md5(random()::text) from generate_Series(1,5000) s;In [1]: df=spark.read.jdbc(url="jdbc:postgresql://localhost:5432/test_db", table="t_random", properties={"driver": "org.postgresql.Driver"}).repartition(10)
| import sys | |
| from awsglue.transforms import * | |
| from awsglue.utils import getResolvedOptions | |
| from pyspark.context import SparkContext | |
| from awsglue.context import GlueContext | |
| from awsglue.job import Job | |
| from pyspark.sql.functions import * | |
| from awsglue.dynamicframe import DynamicFrame |
| export PYTHON_VERSION=3.4.3 | |
| export PYTHON_SHORT_VERSION=3.4 | |
| export GEOS_VERSION=3.6.2 | |
| export GDAL_VERSION=2.2.2 | |
| export PROJ4_VERSION=4.9.3 | |
| sudo yum-config-manager --enable epel | |
| sudo yum install gdal-python | |
| sudo yum -y install make automake gcc gcc-c++ libcurl-devel proj-devel geos-devel |
| #!/bin/bash | |
| MINICONDA_VERSION="4.3.21" | |
| PANDAS_VERSION="0.20.3" | |
| SCIKIT_VERSION="0.19.0" | |
| while [[ $# > 1 ]]; do | |
| key="$1" | |
| case $key in |
| #!/usr/bin/env bash | |
| set -x -e | |
| JUPYTER_PASSWORD=${1:-"myJupyterPassword"} | |
| NOTEBOOK_DIR=${2:-"s3://myS3Bucket/notebooks/"} | |
| # home backup | |
| if [ ! -d /mnt/home_backup ]; then | |
| sudo mkdir /mnt/home_backup | |
| sudo cp -a /home/* /mnt/home_backup |
| import json | |
| from pprint import pprint as pp | |
| def jenks_matrices_init(data, n_classes): | |
| #fill the matrices with data+1 arrays of n_classes 0s | |
| lower_class_limits = [] | |
| variance_combinations = [] | |
| for i in xrange(0, len(data)+1): | |
| temp1 = [] | |
| temp2 = [] |