Tag Archives: python

Migranti e Rifugiati

Il caso politico dei 629 migranti soccorsi dalla nave Aquarius ha riacceso il dibattito sull’immigrazione in Italia e in Europa. Il tema dell’immigrazione è un fenomeno complesso, ampiamente discusso in tv, sui giornali e sui social.

Tuttavia, spesso i media riportano numeri contrastanti.

C’è chi parla di rifugiati, chi di migranti economici, chi confonde i clandestini con i profughi. Per provare a fare chiarezza su un tema molto complesso, è bene chiarire alcune parole chiave:

  • Migrante Regolare – Un migrante è considerato regolare se risiede in un paese con regolare permesso di soggiorno;
  • Rifugiato – Il rifugiato è colui che non può o non vuole tornare nel suo Paese di origine per il timore di essere perseguitato per motivi di razza, religione, etc.  [Articolo 1A della Convenzione di Ginevra del 1951 ];
  • Richiedente asilo – Coloro che sono in attesa che venga elaborata la richiesta d’asilo per ottenere lo status di rifugiati, la protezione sussidiaria o la protezione umanitaria;
  • Clandestinoé un migrante irregolare;
  • Migrante Economico – I migranti economici sono persone che emigrano dal loro paese di origine per motivi economici;
  • ProfugoProfugo è un termine generico che indica chi lascia il proprio paese a causa di guerre, invasioni, rivolte o catastrofi naturali.

Migranti Regolari

I principali dati sulle migrazioni sono forniti dall’Organizzazione delle Nazioni Unite, in particolare dalla divisione International Migration[1]. In Europa, escluse Russia e Gran Bretagna, i Paesi con il maggior numero di migranti sono: Germania, Francia, Spagna e Italia.

Ingrandisci

Numero complessivo di migranti nel 2017 in Europa
Fig 1. Numero complessivo di migranti nel 2017 in Europa

In Italia si attestano circa 6 milioni di Migranti Regolari, i cui Paesi di origine sono in prevalenza: Romania, Albania e Marocco.

Ingrandisci

Distribuzione dei migranti in Italia, per Paese di origine. (Top 20)
Fig 2. Distribuzione dei migranti in Italia, per Paese di origine. (Top 20)

Rifugiati

Le analisi sui rifugiati prendono in considerazione i dati forniti dall’Agenzia delle Nazioni Unite per i Rifugiati[2] (UNHCR).  In Italia, nel 2017, sono presenti un totale di 160.000 rifugiati.

Ingrandisci

Rifugiati in Italia
Fig 3. Rifugiati in Italia

Richiedenti Asilo

I dati sui richiedenti asilo sono forniti dal dipartimento per le libertà civili e le immigrazioni del Ministero dell’Interno. Osservando il riepilogo del 2017, si possono sintetizzare le seguenti informazioni utili:

  • Richiedenti asilo: 130.000
  • Principali paesi di provenienza: Nigeria, Bangladesh, Pakistan, Gambia, Senegal, Cosa d’Avorio, Guinea, Mali, Ghana, Eritrea, Ucraina, Siria
  • Pratiche esaminate: 80.000
  • Pratiche approvate con status rifugiato: 6.827
  • Pratiche approvate con status di protezione sussidiaria o protezione umanitaria: 27.046
  • Pratiche respinte: 47.000

Tutti i richiedenti asilo, le cui pratiche vengono respinte (ca. 46.000 nel 2017), possono quindi essere considerati quelli che vengono chiamati migranti economici. 

Clandestini

I dati sui clandestini non sono dati semplici da reperire,  una delle fonti più accreditate è la fondazione ISMU. In un rapporto del 2016 si stima un totale di ca. 500.000 immigrati clandestini in Italia.


Riferimenti:

  1. Dati sulle migrazioni forniti dall’ONU
  2. Dati sui rifugiati forniti dall’UNHCR
  3. Dati sui richiedenti asilo forniti dal Dipartimento per le libertà civili e l’immigrazione
  4. Dati sui clandestini, fonte Fondazione ISMU

Codice GitHub:

Le fonti e il codice utilizzato sono stati pubblicati al seguente repository: od_migranti

Il Grafo Sociale di Facebook

Il Grafo Sociale

Social Network sono tra i più grandi produttori di dati e, alcuni di questi, sono accessibili pubblicamente tramite delle API [1].

Uno dei più noti social network è Facebook il quale basa i suoi dati sul “Social Graph”, ovvero una rappresentazione a grafo delle informazioni composta da: nodi, collegamenti e campi.

Ad esempio: data una persona è possibile risalire ai suoi post e, in base ai post, è possibile analizzare i commenti collegati al post.

L’idea di base è capire come poter utilizzare i dati disponibili per analizzare i metodi di comunicazione impiegati sulle pagine Facebook. Come esempio di studio, attraverso un’indagine sul numero di post e di like ricevuti, sono state analizzate le pagine di Salvini, Renzi e del M5S.

Salvini vs Renzi vs M5S

Il primo grafico mostra la distribuzione del numero di post raggruppati per anno di pubblicazione.

In totale dal 2010, i grillini hanno pubblicato 21.931 post, Salvini 16.007 e Renzi in ultima posizione con 3.742 post.

Il secondo grafico analizza invece la distribuzione del numero di like ricevuti sui post pubblicati, sempre raggruppati per anno di riferimento.

In questo caso, la situazione cambia drasticamente e, in prima posizione, sale Salvini con 50 milioni di like, in seconda Renzi con 10 Milioni di like e infine il Movimento 5 Stelle con 4 milioni.

Analisi dei “picchi” di likes

Osservando con maggior dettaglio l’andamento dei like ricevuti da Salvini, pagina Facebook con maggior numero di like, si nota a livello macro una crescita repentina avviata nel 2013, anno in cui diventa segretario della Lega Nord, a discapito di Umberto Bossi. Raggiunge il picco nel 2015 come antagonista di Matteo Renzi (Presidente del Consiglio dal 2014), dopodiché inizia la discesa. Ma più della discesa, quello che incuriosisce sono i “picchi”…

Analizzando i post con maggior numero di like presenti sui 4 picchi individuati, troviamo:

  • Ottobre 2014, 90.000 like –  Uno STUPRATORE tunisino di 28 anni, già in galera per violenza sessuale, è evaso dal carcere di Pordenone e ha violentato una ragazza di 28 anni. È stato arrestato. Fossi ministro, applicherei (come già sperimentato in numerosi Paesi europei) la CASTRAZIONE CHIMICA e poi lo rimanderei in Tunisia. Che dite?
  • Aprile 2015, 135.000 like – Ragazzi, da non credere! Ascoltate e divulgate.Sabato e domenica tutti in piazza, vieni a firmare. (Post associato ad un video in cui vengono intervistate due minorenni rom che si vantavano di rubare).
  • Giugno 2015, 97.550 like – Una mamma di 41 anni, separata e con due figli, si è impiccata vicino a Bologna. Le avevano staccato il gas, e per luglio rischiava lo sfratto.Una preghiera per questa mamma, un abbraccio ai suoi due cuccioli di 10 e 11 anni che non lasceremo soli, e tanta rabbia. Stato italiano, dove sei?
  • Novembre 2015, 95.484 like – Da FARE SUBITO.Sostegno militare alla Russia per annientare l’ISIS, controllo delle frontiere, blocco degli sbarchi ed espulsione dei clandestini, verifica a tappeto di tutte le occupazioni abusive nei nostri quartieri popolari, da Milano a Palermo. Ci hanno dichiarato GUERRA. E alla guerra non si risponde con le chiacchiere di Renzi e dell’inutile Alfano

Tutti argomenti relativi al tema dell’immigrazione.

In generale, la possibilità di interrogare i dati messi a disposizione dai Social Network apre un’infinita serie di analisi. Sarebbe stato interessante, ad esempio, indagare meglio le persone che hanno messo tutti quei like ai post di Salvini. Il numero di like ricevuti, sui post tra il 2014 e il 2015, sono pari ai like che in media riceve il Presidente Obama ai suoi post…

Purtroppo o per fortuna, per questioni di privacy, Facebook non permette l’accesso completo alle informazioni personali, resta un pò il dubbio che dietro a tutti quei like ci siano persone vere o programmi creati ad hoc.


Riferimenti:

  1. API Facebook

Codice GitHub:

Le fonti e il codice utilizzato sono stati pubblicati al seguente repository: od_facebook

Data Visualization con Flask

Articolo tecnico

Le storie raccontate fino ad oggi, come ad esempio I Cambiamenti Climatici, descrivono la realtà per mezzo di analisi statiche dei dati a disposizione. L’articolo di oggi ha l’obiettivo di rappresentare un approccio dinamico alla realizzazione di storie basate su dati. La soluzione descritta si basa sull’esperimento effettuato con www.monitoraggioelezioni.it e mostra come realizzare delle visualizzazioni web interattive, a partire dai dati grezzi, con python e javascript.

Monitoraggio elezioni fornisce un servizio di monitoraggio della visibilità social e web dei principali candidati politici alle elezioni italiane del 2018. Dopo la creazione di una serie di articoli sull’utilizzo statico dei dati social (es. Un giorno con #trumpLa “speculazione sociale” su Facebook) è stato realizzato il sito www.monitoraggioelezioni.it che sfrutta tali dati in modo dinamico.

Approccio alla Data Visualization in Flask

La figura di seguito mostra l’architettura di massima utilizzata per la realizzazione delle visualizzazioni dinamiche:

Data Visualization con Flask – Architettura

 L’architettura si compone di 2 macro mondi:

  1. Data Integration
  2. Data Visualization

La componente di data integration si occupa di: leggere le fonti, elaborare il dato e storicizzarlo. I principali strumenti utilizzati in questa fase sono:

La componente di data visualization si occupa di: leggere il dato elaborato al punto precedente e visualizzarlo. I principali strumenti utilizzati sono:

  • Python, linguaggio di programmazione
  • Flask, framework web
  • PostgreSQL, database
  • Javascript e HTML per la presentazione dei dati

In molti casi le due componenti, data integration e visualization, possono essere unite per realizzare applicazioni real-time. La scelta di disaccoppiare le due componenti è stata effettuata principalmente dopo aver valutato 3 fattori:

  • Il dato real-time non è strettamente necessario, il dato si aggiorna infatti ogni ora.
  • Costi infrastrutturali nulli: è stato utilizzato un raspberry pi 3 come server.
  • Focus sulla parte di data visualization rispetto alla parte di data integration.

Data Integration

Il codice di www.monitoraggioelezioni.it relativo alla componente di data integration è pubblicato sul repository GitHub od_elezioni. Per comprendere meglio la fase di data integration, analizzeremo in dettaglio il codice per il calcolo dei fan di una pagina Facebook: Facebook_Fans.ipynb

Librerie

La gestione delle librerie python è effettuata tramite il gestore virtualenev. In particolare, vengono utilizzate le librerie Facebook per la lettura dei dati del social network e la libreria Pandas per il trattamento dei dati.

# import librerie
import os
import facebook
import requests
import datetime
import pandas as pd
import numpy as np
from sqlalchemy import create_engine
import json

File di configurazione

Il file di configurazione è esterno alla cartella di GitHub e permette il caricamento delle password del database e delle API Facebook.

# configuration file
config = {}
config_path = os.path.join(os.path.abspath('../../'))
config_name = 'config.py'
config_file = os.path.join(config_path,config_name)
exec(open(config_file).read(),config)
fb_app_id=config['FB_APP_ID']
fb_app_secret=config['FB_APP_SECRET']
fb_app_userid=config['FB_APP_USERID']

Lettura dei dati

La fase di lettura dei dati si occupa di creare la connessione con Facebook tramite le API.

# get access token
payload = {'grant_type': 'client_credentials', 'client_id': fb_app_id, 'client_secret': fb_app_secret}
response = requests.post('https://graph.facebook.com/oauth/access_token?', params = payload)
json_data = json.loads(response.text)
access_token = json_data['access_token']

# get graph Facebook
graph = facebook.GraphAPI(access_token=access_token, version='2.7')

Elaborazione

Il cuore della fase di data integration è l’elaborazione dei dati, in questa fase è stato realizzato un metodo che sfrutta le API Facebook e, per ogni candidato politico fornito in input, restituisce il numero di fan della rispettiva pagina Facebook, identificata tramite un apposito id.

# Candidati Elezioni
users = [
    {'user':'Renzi','user_id':'113335124914'},
    {'user':'Di Maio','user_id':'522391027797448'},
    {'user':'Salvini','user_id':'252306033154'},
    {'user':'Pisapia','user_id':'112352038802143'},
    {'user':'Meloni','user_id':'38919827644'},
    {'user':'Berlusconi','user_id':'116716651695782'}
]

# get today's date
todays_date = datetime.datetime.now()

# get fans
def get_fans(fb_user, fb_id, graph, date):
    info = graph.get_object(id=fb_id, fields='name,fan_count,posts')
    fan = info['fan_count']
    fan_d = {'dt_rif':todays_date,'user':fb_user,'fb_fans':fan}
    return fan_d

fb_fans = []
for user in users:
    fb_fans.append(get_fans(user['user'],user['user_id'],graph,todays_date))

df = pd.DataFrame(fb_fans)

Scrittura

Il dato ottenuto viene salvato e storicizzato in una tabella postgresql chiamata fb_fans.

# get database connection
db=config['DATABASE_ELE']
schema=config['SCHEMA_ELE']
engine = create_engine(db)

# write on db
df.to_sql('fb_fans', engine, schema=schema, if_exists='append')

Come ultimo step della fase di data integration, il tutto viene schedulato, ogni ora, con crontab.

Data Visualization

Per comprendere meglio la fase di data visualization analizzeremo la struttura delle cartelle del repository mon_elezioni e i passi che portano alla visualizzazione del numero di facebook fans.

Struttura delle cartelle

La struttura delle cartelle dipende molto dal framework utilizzato, in questo caso Flask.

  • Cartella Padre
    \elezioni
    - runserver.py

Il file runserver.py contiene il codice per avviare l’applicazione ed è lo script che viene lanciato da linea di comando per avviare l’applicazione.

  • Cartella Elezioni
    \static
    \templates
    \views
    __init__.py

Il modello utilizzato è il classico MVC, semplificato della componente Model. Una volta avviato lo script runserver.py, viene richiamato lo script __init__.py che si occupa di avviare le configurazioni di base (es. avvio del database) e di richiamare il Controller.

La cartella delle views corrisponde alla classe Controller del modello MVC e si occupa di leggere i dati dal database e fornirli ai templates.

La cartella dei templates corrisponde alla classe View del modello MVC e contiene le pagine .html che si occupano di visualizzare il dato.

Infine, la cartella static contiene tutta la componente statica delle pagine web, ovvero: css, javascript e immagini.

Visualizzazione di un Dato – Numero di Facebook Fans

Per visualizzare il numero di facebook fans sulla pagina principale di www.monitoraggioelezioni.it, gli step sono i seguenti:

  • Controller -> /views/osservatorio.py

Le librerie sono sempre gestite all’interno di un virtualenv dedicato. Il tag @app.route indica le modalità di routing dell’applicazione. In questo caso la chiamata alla pagina home di www.monitoraggioelezioni.it richiama il metodo osservatorio().

Il metodo osservatorio() si occupa di leggere l’ultimo valore di facebook fans presente in tabella e di fornirlo al template osservatorio.html.

# coding=utf-8
from __future__ import division
from elezioni import app, get_db, render_template, url_for
from flask import request
import json

@app.route('/')
def osservatorio():
    engine = get_db()
    cur = engine.execute(
    '''     select fb_fans
            from ''' + app.config['SCHEMA_ELE'] + '''."fb_fans"
            where "user"=''' "'" + app.config['USER1'] + "'" '''
            order by dt_rif desc
            limit 1;
    ''')

   fb_fans = cur.fetchall()
   return render_template('osservatorio.html', fb_fans=fb_fans)
  • View -> /templates/osservatorio.html

Per comodità e, per velocizzare le struttura delle pagine html, è stato acquistato un template di base, in questo caso Limitless che fornisce una base di html statico sulla quale realizzare la “dinamicità”.

I templates sono strutturati in modo che tutte le pagine ereditano una pagina padre, il layout.html, che si occupa della struttura generica e della gestione di header e footer. I singoli templates, invece, si occupano di gestire il contenuto di ogni pagina. Ad esempio, il template osservatorio.html è responsabile della pagina di home di www.monitoraggioelezioni.it.

All’interno dei templates, oltre al codice html, è presente il codice Jinja che si occupa di realizzare la “dinamicità” delle pagine html, leggendo i valori forniti dalle views. In questo caso viene esposto all’interno della pagina html, il valore fb_fans.

<!-- Simple statistics Facebook -->
<div class="panel panel-body panel-body-accent">
<div class="media no-margin">
<div class="media-left media-middle">
{% if u=='Renzi' %}
<a href="https://www.facebook.com/{{id_user1_fb}}" target='_blank'><i class="icon-facebook2 icon-2x text-primary"></i></a>
{% elif u=='Di Maio' %}
<a href="https://www.facebook.com/{{id_user2_fb}}" target='_blank'><i class="icon-facebook2 icon-2x text-primary"></i></a>
{% elif u=='Berlusconi' %}
<a href="https://www.facebook.com/{{id_user3_fb}}" target='_blank'><i class="icon-facebook2 icon-2x text-primary"></i></a>
{% endif %}
</div>
<div class="media-body text-right">
{% if u=='Renzi' %}
<h3 class="no-margin text-semibold">{{"{:,}".format(fb_fans[0].fb_fans)}}</h3>
{% elif u=='Di Maio' %}
<h3 class="no-margin text-semibold">{{"{:,}".format(fb_fans2[0].fb_fans)}}</h3>
{% elif u=='Berlusconi' %}
<h3 class="no-margin text-semibold">{{"{:,}".format(fb_fans3[0].fb_fans)}}</h3>
{% endif %}
<span class="text-uppercase text-size-mini text-muted">Facebook Fans</span>
</div>
</div>
</div>

Il risultato ottenuto è il seguente, ovvero la rappresentazione in alto a destra del numero di Facebook fans.

Facebook Fans

Una volta compresi gli strumenti e il metodo che dal dato grezzo porta alla sua visualizzazione è possibile aggiungere ulteriori e nuove visualizzazioni replicando i passi indicati.

Visualizzazione di un Grafico – Trend dei Facebook Fans

La realizzazione di grafici, ovvero la componente core della data visualization, merita invece un discorso a parte. Nell’immagine precedente troviamo ad esempio il grafico corrispondente al Trend dei Facebook Fans. 

La realizzazione dei grafici segue un procedimento leggermente diverso rispetto ai semplici numeri. Il dato viene recuperato sempre dal controller ma, al contrario di un semplice numero, è consigliabile restituirlo in output sotto forma di json. Il dato json viene successivamente letto tramite javascript ed elaborato con una delle tante librerie presenti (es. d3.js o chart.js per citarne qualcuna).

  • Controller -> /views/facebook.py

In questo caso il metodo non viene richiamato nella homepage ma è separato e sarà richiamato ad hoc, via javascript, da una chiamata ajax necessaria per recuperare il json.

# json trend fb fans user 1
@app.route('/trend_fb_fans1')
def trend_fb_fans1():
engine = get_db()
cur = engine.execute(
'''
select
to_char(dt_rif,'YYYY-MM-DD') as date,
fb_fans as value
from ''' + app.config['SCHEMA_ELE'] + '''."fb_fans"
where "user"=''' "'" + app.config['USER1'] + "'" '''
order by dt_rif asc
''')

result = cur.fetchall()
return json.dumps([dict(r) for r in result])
  • View -> /templates/osservatorio.html

All’interno del template, una volta posizionato il grafico, è necessario definire un identificativo del grafico che verrà poi richiamato da uno script javascript.

<!-- Basic area chart -->
</br>
<div class="text-muted text-size-small">Trend Facebook Fans</div>
{% if u=='Renzi' %}
<div id="monthly-sales-stats1"></div>
{% elif u=='Di Maio' %}
<div id="monthly-sales-stats2"></div>
{% elif u=='Berlusconi' %}
<div id="monthly-sales-stats3"></div>
{% endif %}
<!-- /basic area chart -->
  • Grafico -> /static/assets/js/elezioni_chart.js

Lo script che si occupa di richiamare il json precedente e disegnare il grafico relativo al trend dei facebook fans è presente all’interno della cartella static.

I grafici cosi come tutti gli altri componenti possono essere realizzati da zero oppure presi dai diversi template già pronti presenti sulla rete. In questo caso è stato utilizzato un grafico già presente nel template Limitless e opportunamente modificato per adattarlo ai nuovi dati.

Conclusioni

In generale, gli approcci alla Data Visualization possono essere molteplici. Il metodo qui presentato richiede la conoscenza di molte tecnologie, che vanno dal back-end al front-end. L’articolo fornisce un’overview completa di come realizzare delle visualizzazioni dinamiche con python e javascript, grazie al framework flask. Inoltre, fornisce tutte le indicazioni ed i link utili per approfondire i singoli argomenti e creare la propria visualizzazione.

Per quanto riguarda altri approcci, si segnala l’ottimo lavoro che sta svolgendo il team digitale, con la realizzazione del Data & Analytics Framework. Presto saranno disponibili degli strumenti pronti all’uso per la realizzazione di visualizzazioni web basate su dati, quali: Superset, Metabase e Jupyter, con la possibilità di combinare le visualizzazioni realizzate in vere e proprie storie.