ajout script d'analyse des v...
|
1 |
#!/bin/bash |
2 | ||
fix info parfois manquante s...
|
3 |
set -e |
4 | ||
améliore la récupération des...
|
5 |
for tool in sqlite3 getopt mktemp w3m jq; do |
complète re-écriture
|
6 |
which $tool > /dev/null 2>&1 || { |
7 |
echo missing tool $tool |
|
8 |
exit 1 |
|
9 |
} |
|
plus de souplesse dans les p...
|
10 |
done |
11 | ||
ajout possibilité de compare...
|
12 |
IFS_=$IFS |
13 | ||
amélioration code
|
14 |
function sqlite_request () { |
améliore la récupération des...
|
15 |
sqlite3 ${2:+-cmd} ${2:+".mode $2"} "$in_ram_database" <<< "$1" |
amélioration code
|
16 |
} |
17 | ||
complète re-écriture
|
18 |
function create_database () { |
améliore la récupération des...
|
19 |
sqlite_request "create table if not exists dossiers (id integer primary key, titre text, url text)" |
20 |
sqlite_request "create table if not exists votes (id integer primary key, nom text)" |
|
21 |
sqlite_request "create table if not exists députés (id integer primary key, nom text, groupe integer, date text)" |
|
22 |
sqlite_request "create table if not exists groupes (id integer primary key, nom text unique, nom_court text)" |
|
23 |
sqlite_request "create table if not exists scrutins (num integer primary key, séance text, date text not null, intitulé text non null, adoption boolean, dossier integer, mise_au_point text)" |
|
24 |
sqlite_request "create table if not exists dépouillements (scrutin integer not null, député integer not null, vote integer not null)" |
|
25 |
sqlite_request "create unique index if not exists 'index_députés' on députés (nom, groupe)" |
|
26 |
sqlite_request "create unique index if not exists 'index_dossiers' on dossiers (titre, url)" |
|
27 |
sqlite_request "create unique index if not exists 'index_dépouillements' on dépouillements (député, scrutin)" |
|
complète re-écriture
|
28 | |
29 |
for v in Pour Contre Abstention Non-votant; do |
|
améliore la récupération des...
|
30 |
sqlite_request "insert or ignore into votes (nom) values ('$v')" |
ajout script d'analyse des v...
|
31 |
done |
complète re-écriture
|
32 |
} |
ajout script d'analyse des v...
|
33 | |
complète re-écriture
|
34 |
function update_database () { |
35 |
test "$no_db_update" = $true_flag && return |
|
36 |
tempfile="/dev/shm/scrutin.$$" |
|
37 |
progress=0 |
|
améliore la récupération des...
|
38 |
for r in "${!acronymes[@]}"; do |
39 |
sqlite_request "update groupes set nom_court = \"${acronymes[$r]}\" where nom = \"$r\"" |
|
40 |
done |
|
41 |
sqlite_request "create table if not exists dossier_par_scrutin (scrutin integer, url text)" |
|
42 |
echo "récupération des dossiers" |
|
43 |
wget -qO- "https://www.assemblee-nationale.fr/dyn/$mandature/dossiers" \ |
|
44 |
| sed -rn 's/<p class="m-0"><a title="Accéder au dossier législatif" href="([^"]+)">([^<]+)<.+$/\1 \2/p' \ |
|
45 |
| sed -r "s/^[[:space:]]*//; s/'/'/g" \ |
|
46 |
| awk -v dq='"' '{ |
|
47 |
printf("insert or ignore into dossiers (titre, url) values (%s, %s);\n", dq gensub($1 " ", "", "1", $0) dq, dq "https://www.assemblee-nationale.fr" $1 dq) |
|
48 |
}' > $tempfile |
|
49 |
sqlite3 "$in_ram_database" < $tempfile |
|
fix bug sur premier scrutin
|
50 |
first_=$first |
améliore la récupération des...
|
51 |
first=$(sqlite_request "select max(num) from scrutins") |
complète re-écriture
|
52 |
if test ${first:-0} -lt $last; then |
53 |
echo "récupération des scrutins n°$((${first:-0}+1)) à n°$last dans "$database" (à conserver autant que possible)" >&2 |
|
ajout script d'analyse des v...
|
54 | |
complète re-écriture
|
55 |
test $((last % 100)) -ne 0 && last_offset=0 |
fix dossiers manquants
|
56 |
IFS=$' \t\n' |
complète re-écriture
|
57 |
for offset in $(seq $((last - 100)) -100 ${first:-0} ) $last_offset; do |
sélection possible de la man...
|
58 |
wget -qO- "http://www2.assemblee-nationale.fr/scrutins/liste/(offset)/$offset/(legislature)/$mandature/(type)/TOUS/(idDossier)/TOUS" \ |
améliore la récupération des...
|
59 |
| awk -v dq='"' ' |
60 |
BEGIN { |
|
61 |
} |
|
complète re-écriture
|
62 |
/<td class="denom">/ { |
améliore la récupération des...
|
63 |
scrutin = gensub(/^.+denom.>([[:digit:]]+)\\*?<.td./,"\\1","1",$0) |
complète re-écriture
|
64 |
} |
améliore la récupération des...
|
65 |
/<td class="desc">/ { |
66 |
if (match($0, ">dossier<") > 0) |
|
67 |
dossier[scrutin] = gensub(/^.+.<a href="([^"]+)">dossier<.a>.*$/,"\\1","1",$0) |
|
complète re-écriture
|
68 |
} |
69 |
END { |
|
améliore la récupération des...
|
70 |
for (i in dossier) { |
71 |
printf("insert into dossier_par_scrutin (scrutin, url) values (%i, %s);\n", i, dq dossier[i] dq) |
|
72 |
} |
|
73 |
}' > $tempfile |
|
74 |
sqlite3 "$in_ram_database" < $tempfile |
|
complète re-écriture
|
75 |
done |
76 | ||
améliore la récupération des...
|
77 | |
78 |
# IFS=$'\n' |
|
complète re-écriture
|
79 |
begin=$(date +%s) |
80 |
for scrutin in $(seq $((${first:-0}+1)) $last); do |
|
améliore la récupération des...
|
81 |
w3m -cols 512 -dump "http://www2.assemblee-nationale.fr/scrutins/detail/(legislature)/$mandature/(num)/$scrutin" \ |
82 |
| sed -n '/^Analyse du scrutin n° /,/^Votes des groupes/{/^Navigation/,/^ • Non inscrits/d;/^[[:space:]]*$/d;p}' \ |
|
83 |
| awk -v sq="'" -v dq='"' ' |
|
84 |
BEGIN { adoption = -1; map = 0 } |
|
85 |
/^Analyse du scrutin/ { scrutin = $NF } |
|
86 |
/séance du [0-3][0-9]\/[01][0-9]\/(19|20)[0-9]+/ { date = $NF; seance = $1 } |
|
87 |
/^Scrutin public sur / { titre = gensub("^Scrutin public sur l[ae" sq "]s? ?", "", "1") } |
|
88 |
/^L.Assemblée .+ adopté/ { adoption = NF == 3 } |
|
89 |
/^Nombre de votants :/ { votants = $NF } |
|
90 |
/^Nombre de suffrages exprimés :/ { exprimes = $NF } |
|
91 |
/^Majorité absolue :/ { majo_absolue = $NF } |
|
92 |
/^Pour l.adoption :/ { pour = $NF } |
|
93 |
/^Contre :/ { contre = $NF } |
|
94 |
/^Groupe / { groupe = gensub("^Groupe (.+) \\([1-9].+$", "\\1", "1") |
|
95 |
groupe = gensub("^(la|les|le|l" sq "|du|des|de|de la|d" sq ") ", "", "1", groupe) |
|
96 |
} |
|
97 |
/^Non inscrits/ { groupe = "Non inscrits" } |
|
98 |
/^(Pour|Abstention|Contre):/ { position = gensub(":", "", "1", $1) } |
|
99 |
/^Non-votants?:/ { |
|
100 |
position = gensub("s?:", "", "1", $1) |
|
101 |
nvl = "" |
|
102 |
while ($1 != "Groupe") { |
|
103 |
getline |
|
104 |
if ($1 == "Groupe") |
|
105 |
break |
|
106 |
nvl = nvl $0 |
|
107 |
} |
|
108 |
f = split(nvl, nv, "(, | et )") |
|
109 |
for (i=1; i<=f; i++) { |
|
110 |
votes[groupe][position][gensub("(^ +|M\\. |Mme |Mlle | \\(.+)", "", "g", nv[i])]++ |
|
111 |
} |
|
112 |
groupe = gensub("^Groupe (.+) \\([1-9].+$", "\\1", "1") |
|
113 |
} |
|
114 |
/^ • / { votes[groupe][position][gensub("^[[:punct:] ]*", "", "1")]++ } |
|
115 |
/^Mises au point/,/^Votes des groupes/ { if ($1 != "(Sous") mises_au_point[map++] = $0 } |
|
116 |
END { |
|
117 |
if (adoption < 0) |
|
118 |
adoption = pour >= majo_absolue |
|
119 | ||
120 |
for (i=1; i<map-1; i++) |
|
121 |
mise_au_point = sprintf("%s[%s]", mise_au_point, mises_au_point[i]) |
|
122 | ||
123 |
printf("insert into scrutins (num, séance, date, intitulé, adoption, mise_au_point) values (%i, %s, %s, %s, %i, %s);\n", |
|
124 |
scrutin, |
|
125 |
sq seance sq, |
|
126 |
sq date sq, |
|
127 |
dq gensub(dq, dq dq, "g", titre) dq, |
|
128 |
adoption, |
|
129 |
dq gensub(dq, dq dq, "g", mise_au_point) dq, |
|
130 |
scrutin) |
|
131 |
printf("update scrutins set dossier = ( select id from dossiers inner join dossier_par_scrutin where dossiers.url = dossier_par_scrutin.url and dossier_par_scrutin.scrutin = %i) where num = %i;\n", |
|
132 |
scrutin, |
|
133 |
scrutin) |
|
134 |
for (groupe in votes) { |
|
135 |
printf("insert or ignore into groupes (nom) values (%s);\n", dq groupe dq) |
|
136 |
for (position in votes[groupe]) { |
|
137 |
for (nom in votes[groupe][position]) { |
|
138 |
if (nom !~ " \\(.+\\) *$") |
|
139 |
printf("insert or ignore into députés (nom, groupe, date) select %s, id, %s from groupes where nom = %s;\n", |
|
140 |
dq nom dq, |
|
141 |
dq date dq, |
|
142 |
dq groupe dq) |
|
143 |
printf("insert or ignore into dépouillements (scrutin, député, vote) select %i, députés.id, votes.id from députés inner join votes where députés.nom = %s and votes.nom = %s;\n", |
|
144 |
scrutin, |
|
145 |
dq nom dq, |
|
146 |
dq position dq) |
|
147 |
} |
|
148 |
} |
|
149 |
} |
|
150 |
} |
|
151 |
' > $tempfile |
|
152 |
sqlite3 "$in_ram_database" < $tempfile |
|
écriture directe en feuille ...
|
153 | |
complète re-écriture
|
154 | |
améliore la sortie de progre...
|
155 |
if test $(( ($scrutin - ${first:-0}) * 100 / ( $last - ${first:-0} ) )) -ne ${progress:-0}; then |
156 |
progress=$(( ($scrutin - ${first:-0}) * 100 / ( $last - ${first:-0} ) )) |
|
complète re-écriture
|
157 |
if test $(($progress % ${update_progress:-1})) -eq 0; then |
158 |
now=$(date +%s) |
|
159 |
delta=$(( $now - $begin )) |
|
améliore la sortie de progre...
|
160 |
# scrutin = {first:-0}+1 à la première itération |
161 |
printf "\r%d%%, ETA %s" $progress $(date +%H:%M:%S -d "$(($delta * ($last - $scrutin) / ($scrutin - ${first:-0}) )) seconds") |
|
complète re-écriture
|
162 |
fi |
163 |
fi |
|
164 |
done |
|
améliore la récupération des...
|
165 |
sqlite_request 'drop table dossier_par_scrutin' |
166 | ||
améliore la sortie de progre...
|
167 |
echo -e "\r\033[KTerminé: $(($scrutin - ${first:-0} - 1)) scrutins ajoutés" |
améliore la récupération des...
|
168 |
rm -f "$tempfile" |
complète re-écriture
|
169 |
fi |
fix bug sur premier scrutin
|
170 |
first=$first_ |
complète re-écriture
|
171 |
} |
172 | ||
173 |
function write_comparaison () { |
|
ajout possibilité de compare...
|
174 |
result="comparaisons ${groupe[0]} avec ${groupe_ref:-GDR}${dossier:+ - ${dossier}}" |
complète re-écriture
|
175 |
content="/dev/shm/$result/content.xml" |
améliore le fichier de sorti...
|
176 |
id_cols=(Scrutin Date Scéance Titre Adoption Panurgisme${nom:+ Participation Loyauté} Dossier) |
177 |
eval $(sqlite_request 'select printf("typevotes[%i]=%s;", id, nom) from votes') |
|
178 |
nb_cols=$(( ${#id_cols[@]} + ${#typevotes[@]} * ${#groupe[@]} )) |
|
ajout possibilité de compare...
|
179 |
last_col=$(awk -v n=$nb_cols 'BEGIN{printf("%c%c", n < 27 ? "" : int(n/26) + 64, (n % 26) + (n % 26 == 0 ? 26 : 0) + 64)}' | tr -d '\0') |
simplification écriture des ...
|
180 |
function write_cell () { |
181 |
case $1 in |
|
182 |
url) |
|
183 |
cell='<table:table-cell office:value-type="string" calcext:value-type="string">' |
|
améliore le fichier de sorti...
|
184 |
cell+="<text:p><text:a xlink:href=$2 xlink:type=\"simple\">$3</text:a></text:p>" |
185 |
;; |
|
simplification écriture des ...
|
186 |
texte) |
187 |
cell='<table:table-cell office:value-type="string" calcext:value-type="string">' |
|
188 |
cell+="<text:p>$2</text:p>" |
|
189 |
;; |
|
190 |
nombre) |
|
191 |
cell="<table:table-cell office:value-type=\"float\" office:value=\"$2\" calcext:value-type=\"float\">" |
|
192 |
cell+="<text:p>$2</text:p>" |
|
193 |
;; |
|
194 |
*) |
|
195 |
return 1;; |
|
196 |
esac |
|
197 |
cell+='</table:table-cell>' |
|
198 |
echo $cell >> "$content" |
|
199 |
} |
|
complète re-écriture
|
200 | |
201 |
echo "génération du fichier $result" |
|
202 | ||
203 |
mkdir -p "/dev/shm/$result/META-INF" |
|
204 | ||
205 |
cat > "/dev/shm/$result/META-INF/manifest.xml" << EOmetainf |
|
écriture directe en feuille ...
|
206 |
<?xml version="1.0" encoding="UTF-8"?> |
207 |
<manifest:manifest xmlns:manifest="urn:oasis:names:tc:opendocument:xmlns:manifest:1.0" manifest:version="1.2"> |
|
208 |
<manifest:file-entry manifest:full-path="/" manifest:version="1.2" manifest:media-type="application/vnd.oasis.opendocument.spreadsheet"/> |
|
209 |
<manifest:file-entry manifest:full-path="content.xml" manifest:media-type="text/xml"/> |
|
210 |
</manifest:manifest> |
|
211 |
EOmetainf |
|
212 | ||
complète re-écriture
|
213 |
printf 'application/vnd.oasis.opendocument.spreadsheet' > "/dev/shm/$result/mimetype" |
écriture directe en feuille ...
|
214 | |
complète re-écriture
|
215 |
echo '<?xml version="1.0" encoding="UTF-8"?>' > "$content" |
écriture directe en feuille ...
|
216 | |
complète re-écriture
|
217 |
cat >> "$content" << EOcontent |
218 |
<office:document-content xmlns:office="urn:oasis:names:tc:opendocument:xmlns:office:1.0" xmlns:style="urn:oasis:names:tc:opendocument:xmlns:style:1.0" xmlns:text="urn:oasis:names:tc:opendocument:xmlns:text:1.0" xmlns:table="urn:oasis:names:tc:opendocument:xmlns:table:1.0" xmlns:draw="urn:oasis:names:tc:opendocument:xmlns:drawing:1.0" xmlns:fo="urn:oasis:names:tc:opendocument:xmlns:xsl-fo-compatible:1.0" xmlns:xlink="http://www.w3.org/1999/xlink" xmlns:dc="http://purl.org/dc/elements/1.1/" xmlns:meta="urn:oasis:names:tc:opendocument:xmlns:meta:1.0" xmlns:number="urn:oasis:names:tc:opendocument:xmlns:datastyle:1.0" xmlns:presentation="urn:oasis:names:tc:opendocument:xmlns:presentation:1.0" xmlns:svg="urn:oasis:names:tc:opendocument:xmlns:svg-compatible:1.0" xmlns:chart="urn:oasis:names:tc:opendocument:xmlns:chart:1.0" xmlns:dr3d="urn:oasis:names:tc:opendocument:xmlns:dr3d:1.0" xmlns:math="http://www.w3.org/1998/Math/MathML" xmlns:form="urn:oasis:names:tc:opendocument:xmlns:form:1.0" xmlns:script="urn:oasis:names:tc:opendocument:xmlns:script:1.0" xmlns:ooo="http://openoffice.org/2004/office" xmlns:ooow="http://openoffice.org/2004/writer" xmlns:oooc="http://openoffice.org/2004/calc" xmlns:dom="http://www.w3.org/2001/xml-events" xmlns:xforms="http://www.w3.org/2002/xforms" xmlns:xsd="http://www.w3.org/2001/XMLSchema" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xmlns:rpt="http://openoffice.org/2005/report" xmlns:of="urn:oasis:names:tc:opendocument:xmlns:of:1.2" xmlns:xhtml="http://www.w3.org/1999/xhtml" xmlns:grddl="http://www.w3.org/2003/g/data-view#" xmlns:tableooo="http://openoffice.org/2009/table" xmlns:drawooo="http://openoffice.org/2010/draw" xmlns:calcext="urn:org:documentfoundation:names:experimental:calc:xmlns:calcext:1.0" xmlns:loext="urn:org:documentfoundation:names:experimental:office:xmlns:loext:1.0" xmlns:field="urn:openoffice:names:experimental:ooo-ms-interop:xmlns:field:1.0" xmlns:formx="urn:openoffice:names:experimental:ooxml-odf-interop:xmlns:form:1.0" xmlns:css3t="http://www.w3.org/TR/css3-text/" office:version="1.2"> |
|
219 |
<office:scripts/> |
|
220 |
<office:font-face-decls> |
|
221 |
<style:font-face style:name="Liberation Sans" svg:font-family="'Liberation Sans'" style:font-family-generic="swiss" style:font-pitch="variable"/> |
|
222 |
<style:font-face style:name="DejaVu Sans" svg:font-family="'DejaVu Sans'" style:font-family-generic="system" style:font-pitch="variable"/> |
|
223 |
<style:font-face style:name="FreeSans" svg:font-family="FreeSans" style:font-family-generic="system" style:font-pitch="variable"/> |
|
224 |
</office:font-face-decls> |
|
225 |
<office:automatic-styles> |
|
226 |
EOcontent |
|
227 | ||
ajout possibilité de compare...
|
228 |
IFS=$'\n' |
complète re-écriture
|
229 |
for i in $(seq $nb_cols); do |
230 |
cat >> "$content" << EOcontent |
|
231 |
<style:style style:name="co$i" style:family="table-column"> |
|
232 |
<style:table-column-properties fo:break-before="auto" style:column-width="30.00mm"/> |
|
233 |
</style:style> |
|
écriture directe en feuille ...
|
234 |
EOcontent |
complète re-écriture
|
235 |
done |
écriture directe en feuille ...
|
236 | |
237 |
cat >> "$content" << EOcontent |
|
complète re-écriture
|
238 |
<style:style style:name="ro1" style:family="table-row"> |
239 |
<style:table-row-properties style:row-height="4.52mm" fo:break-before="auto" style:use-optimal-row-height="true"/> |
|
240 |
</style:style> |
|
241 |
<style:style style:name="ta1" style:family="table" style:master-page-name="Default"> |
|
242 |
<style:table-properties table:display="true" style:writing-mode="lr-tb"/> |
|
243 |
</style:style> |
|
244 |
<style:style style:name="ce1" style:family="table-cell" style:parent-style-name="Default"> |
|
245 |
<style:table-cell-properties fo:background-color="#cccccc"/> |
|
246 |
</style:style> |
|
247 |
</office:automatic-styles> |
|
248 |
<office:body> |
|
249 |
<office:spreadsheet> |
|
250 |
<table:calculation-settings table:automatic-find-labels="false"/> |
|
251 |
<table:table table:name="$result" table:style-name="ta1"> |
|
252 |
<office:forms form:automatic-focus="false" form:apply-design-mode="false"/> |
|
améliore le fichier de sorti...
|
253 |
<table:table-column table:style-name="co1" table:number-columns-repeated="${#id_cols[@]}" table:default-cell-style-name="Default"/> |
écriture directe en feuille ...
|
254 |
EOcontent |
255 | ||
améliore le fichier de sorti...
|
256 |
for i in $(seq ${#typevotes[@]}); do |
complète re-écriture
|
257 |
cat >> "$content" << EOcontent |
258 |
<table:table-column table:style-name="co1" table:default-cell-style-name="ce1"/> |
|
écriture directe en feuille ...
|
259 |
EOcontent |
ajout possibilité de compare...
|
260 |
for (( g = 1; g < ${#groupe[@]}; g++ )); do |
261 |
cat >> "$content" << EOcontent |
|
262 |
<table:table-column table:style-name="co1" table:default-cell-style-name="Default"/> |
|
263 |
EOcontent |
|
264 |
done |
|
complète re-écriture
|
265 |
done |
266 |
echo '<table:table-row table:style-name="ro1">' >> "$content" |
|
écriture directe en feuille ...
|
267 | |
ajout possibilité de compare...
|
268 |
IFS=$IFS_ |
améliore le fichier de sorti...
|
269 |
for colonne in ${id_cols[@]}; do |
simplification écriture des ...
|
270 |
write_cell texte $colonne |
complète re-écriture
|
271 |
done |
écriture directe en feuille ...
|
272 | |
améliore le fichier de sorti...
|
273 |
for typevote in ${typevotes[@]}; do |
ajout possibilité de compare...
|
274 |
for g in "${groupe[@]}"; do |
simplification écriture des ...
|
275 |
write_cell texte "$typevote - $g" |
complète re-écriture
|
276 |
done |
277 |
done |
|
278 | ||
279 |
echo '</table:table-row>' >> "$content" |
|
280 | ||
281 |
progress=0 |
|
282 |
begin=$(date +%s) |
|
283 |
line=1 |
|
améliore progression
|
284 |
test -z "$seq" && qty=$(( $last - $first )) |
ajout possibilité de compare...
|
285 |
IFS=$'\n' |
améliore le fichier de sorti...
|
286 |
scrutin_base_url="https://www2.assemblee-nationale.fr/scrutins/detail/(legislature)/$mandature/(num)/" |
complète re-écriture
|
287 |
for scrutin in $(eval ${seq:-seq $first $last}); do |
288 | ||
améliore le fichier de sorti...
|
289 |
data=$(sqlite_request "select date,séance,intitulé,adoption,dossiers.url,dossiers.titre from scrutins left join dossiers on scrutins.dossier = dossiers.id where num is $scrutin" json) |
290 |
date=$(jq -r '.[].date' <<< $data) |
|
291 |
seance=$(jq -r '.[]."séance"' <<< $data) |
|
292 |
title=$(jq -r '.[]."intitulé" | @html' <<< $data) |
|
293 |
adoption=$(jq '.[].adoption' <<< $data) |
|
294 |
dossier_url=$(jq '.[].url' <<< $data) |
|
295 |
dossier_texte=$(jq -r '.[].titre | @html' <<< $data) |
|
complète re-écriture
|
296 |
test $adoption -eq 1 && adoption='oui' || adoption='non' |
groupe de référence: GDR
|
297 | |
simplification écriture des ...
|
298 |
echo '<table:table-row table:style-name="ro1">' >> "$content" |
299 | ||
améliore le fichier de sorti...
|
300 |
write_cell url "\"$scrutin_base_url$scrutin\"" $scrutin |
simplification écriture des ...
|
301 |
write_cell texte "$date" |
améliore le fichier de sorti...
|
302 |
write_cell texte "$seance" |
303 |
write_cell texte "$title" |
|
simplification écriture des ...
|
304 |
write_cell texte "$adoption" |
ajoute colonnes loyauté, pan...
|
305 | |
améliore le fichier de sorti...
|
306 |
for typevote in $(seq ${#typevotes[@]}); do |
ajoute colonnes loyauté, pan...
|
307 |
vote_cible[$typevote]=$(sqlite_request "select |
complète re-écriture
|
308 |
count(député) |
309 |
from |
|
améliore le fichier de sorti...
|
310 |
dépouillements |
311 |
inner join |
|
312 |
députés, groupes |
|
313 |
on |
|
314 |
députés.groupe = groupes.id and dépouillements.député = députés.id |
|
complète re-écriture
|
315 |
where |
316 |
scrutin is $scrutin |
|
317 |
and |
|
318 |
vote is $typevote |
|
319 |
and |
|
améliore le fichier de sorti...
|
320 |
groupes.id = ${groupe_id[0]} ${nom:+ and députés.nom is \"${nom}\"}") |
ajoute colonnes loyauté, pan...
|
321 |
done |
améliore le fichier de sorti...
|
322 |
if test \( ${vote_cible[1]} -gt ${vote_cible[2]} -a $adoption = oui \) \ |
323 |
-o \( ${vote_cible[2]} -gt ${vote_cible[1]} -a $adoption = non \); then |
|
324 |
panurge=oui |
|
ajoute colonnes loyauté, pan...
|
325 |
else |
améliore le fichier de sorti...
|
326 |
panurge=non |
ajoute colonnes loyauté, pan...
|
327 |
fi |
améliore le fichier de sorti...
|
328 |
write_cell texte $panurge |
ajoute colonnes loyauté, pan...
|
329 | |
330 |
if test -n "$nom"; then |
|
améliore le fichier de sorti...
|
331 |
for typevote in 1 2; do |
ajoute colonnes loyauté, pan...
|
332 |
votes_g0[$typevote]=$(sqlite_request "select |
333 |
count(député) |
|
334 |
from |
|
améliore le fichier de sorti...
|
335 |
dépouillements |
336 |
inner join |
|
337 |
députés, groupes |
|
338 |
on |
|
339 |
députés.groupe = groupes.id and dépouillements.député = députés.id |
|
ajoute colonnes loyauté, pan...
|
340 |
where |
341 |
scrutin is $scrutin |
|
342 |
and |
|
343 |
vote is $typevote |
|
344 |
and |
|
améliore le fichier de sorti...
|
345 |
groupes.id is ${groupe_id[0]}") |
ajoute colonnes loyauté, pan...
|
346 |
done |
améliore le fichier de sorti...
|
347 |
participation=$(( vote_cible[1] + vote_cible[2] + vote_cible[3] + vote_cible[4] )) |
348 |
if test $(( (${votes_g0[1]} - ${votes_g0[2]}) * (${vote_cible[1]} - ${vote_cible[2]}) )) -gt 0; then |
|
349 |
loyaute=oui |
|
ajoute colonnes loyauté, pan...
|
350 |
else |
améliore le fichier de sorti...
|
351 |
loyaute=non |
ajoute colonnes loyauté, pan...
|
352 |
fi |
simplification écriture des ...
|
353 |
write_cell nombre $participation |
améliore le fichier de sorti...
|
354 |
write_cell texte $loyaute |
ajoute colonnes loyauté, pan...
|
355 |
fi |
356 | ||
améliore le fichier de sorti...
|
357 |
write_cell url "${dossier_url/#null/\"\"}" "${dossier_texte/#null}" |
358 | ||
359 |
for typevote in $(seq ${#typevotes[@]}); do |
|
simplification écriture des ...
|
360 |
write_cell nombre ${vote_cible[$typevote]} |
ajout possibilité de compare...
|
361 |
for (( g = 1; g < ${#groupe_id[@]}; g++ )); do |
amélioration code
|
362 |
votes=$(sqlite_request "select |
ajout possibilité de compare...
|
363 |
count(député) |
364 |
from |
|
améliore le fichier de sorti...
|
365 |
dépouillements |
366 |
inner join |
|
367 |
députés, groupes |
|
368 |
on |
|
369 |
députés.groupe = groupes.id and dépouillements.député = députés.id |
|
ajout possibilité de compare...
|
370 |
where |
371 |
scrutin is $scrutin |
|
372 |
and |
|
373 |
vote is $typevote |
|
374 |
and |
|
améliore le fichier de sorti...
|
375 |
groupes.id is ${groupe_id[$g]}") |
simplification écriture des ...
|
376 |
write_cell nombre $votes |
complète re-écriture
|
377 |
done |
ajout possibilité de compare...
|
378 |
done |
complète re-écriture
|
379 |
echo '</table:table-row>' >> "$content" |
380 | ||
meilleur calcul progression
|
381 |
if test $(( ($line * 100) / ${qty:-$last} )) -ne $progress; then |
382 |
progress=$(( ($line * 100) / ${qty:-$last} )) |
|
383 |
if test $(( $progress % ${generation_progress:-5} )) -eq 0; then |
|
complète re-écriture
|
384 |
now=$(date +%s) |
385 |
delta=$(( $now - $begin )) |
|
améliore la sortie de progre...
|
386 |
printf "\r%d%%, ETA %s" $progress $(date +%H:%M:%S -d "$(( $delta * (${qty:-$last} - $line) / $line )) seconds") |
complète re-écriture
|
387 |
fi |
388 |
fi |
|
meilleur calcul progression
|
389 | |
390 |
let line++ |
|
391 | ||
ajout script d'analyse des v...
|
392 |
done |
complète re-écriture
|
393 | |
394 |
cat >> "$content" << EOcontent |
|
395 |
</table:table> |
|
396 |
<table:named-expressions/> |
|
397 |
<table:database-ranges> |
|
ajout possibilité de compare...
|
398 |
<table:database-range table:name="__Anonymous_Sheet_DB__0" table:target-range-address="'$result'.D1:'$result'.$last_col$line" table:display-filter-buttons="true"/> |
complète re-écriture
|
399 |
</table:database-ranges> |
400 |
</office:spreadsheet> |
|
401 |
</office:body> |
|
402 |
</office:document-content> |
|
403 |
EOcontent |
|
404 | ||
405 |
( cd "/dev/shm/$result" && zip -r ../"$result" * > /dev/null 2>&1 && cd .. && rm -fr "$result" ) |
|
406 | ||
ajout de l'option de destina...
|
407 |
mv -f "/dev/shm/$result.zip" "${destination_path:+$destination_path/}$result.ods" |
complète re-écriture
|
408 | |
ajout de l'option de destina...
|
409 |
echo -e "\r\033[KTerminé : ${destination_path:+$destination_path/}$result.ods" |
complète re-écriture
|
410 |
} |
411 | ||
412 |
function save_database () { |
|
améliore abandon
|
413 |
test -n "$result" -a -d "/dev/shm/$result" && rm -fr "/dev/shm/$result" |
améliore le trap
|
414 |
test -n "$database" -a -n "$in_ram_database" || return |
améliore la sauvegarde de la...
|
415 |
if test -r "$database" && sqldiff=$(sqldiff $in_ram_database $database) && test -z "$sqldiff"; then |
416 |
echo "pas de modification" |
|
complète re-écriture
|
417 |
elif test -w "$database"; then |
améliore la sauvegarde de la...
|
418 |
rm -f "$database" |
419 |
sqlite_request '.dump' | sqlite3 "$database" |
|
420 |
echo "base de données $database mise à jour" |
|
421 |
elif test ! -e "$database" -a -w ${database%/*}; then |
|
422 |
sqlite_request '.dump' | sqlite3 "$database" |
|
423 |
echo "base de données $database créée" |
|
complète re-écriture
|
424 |
else |
améliore la sauvegarde de la...
|
425 |
echo "je ne peux rien faire avec $database !" |
complète re-écriture
|
426 |
fi |
nettoie à la sortie du scrip...
|
427 |
rm -f "$in_ram_database" "$tempfile" |
complète re-écriture
|
428 |
} |
429 | ||
factorisation
|
430 |
function dernier_scrutin_public () { |
sélection possible de la man...
|
431 |
wget -qO- "http://www2.assemblee-nationale.fr/scrutins/liste/(legislature)/$mandature/(type)/TOUS/(idDossier)/TOUS" \ |
corrige récupération du numé...
|
432 |
| sed -rn 's/^.*<td class="denom">([0-9]+)[^0-9].*$/\1/p' \ |
factorisation
|
433 |
| head -1 |
434 |
} |
|
435 | ||
complète re-écriture
|
436 |
trap save_database EXIT |
437 | ||
corrige la configuration écr...
|
438 |
test -z "$database" && database="${0}.db" |
439 | ||
440 |
declare -A acronymes |
|
441 |
if test -n "$config_file"; then |
|
442 |
source "$config_file" |
|
443 |
else |
|
444 |
config_file="${0}.conf" |
|
445 |
if test -r "$config_file"; then |
|
446 |
source "$config_file" |
|
447 |
fi |
|
448 |
fi |
|
449 | ||
complète re-écriture
|
450 |
true_flag=$(mktemp --dry-run XXXXX) |
451 | ||
452 |
OPTS=$( getopt -l no-db-update,\ |
|
453 |
db-update-only,\ |
|
454 |
cible:,\ |
|
455 |
ref:,\ |
|
456 |
député:,\ |
|
457 |
premier-scrutin:,\ |
|
458 |
dernier-scrutin:,\ |
|
459 |
période:,\ |
|
460 |
liste-dossiers,\ |
|
461 |
liste-députés,\ |
|
462 |
dossiers,\ |
|
463 |
dossier:,\ |
|
464 |
conf:,\ |
|
465 |
database:,\ |
|
466 |
progrès-génération:\ |
|
ajout d'un message d'aide
|
467 |
progrès-update:,\ |
468 |
help \ |
|
complète re-écriture
|
469 |
-- "$@" ) |
470 | ||
471 |
eval set --$OPTS |
|
472 | ||
473 |
while [[ $# -gt 0 ]]; do |
|
474 |
case "$1" in |
|
475 |
"--no-db-update") |
|
ajout d'un message d'aide
|
476 |
#|ne met pas à jour la base de données |
complète re-écriture
|
477 |
no_db_update=$true_flag;; |
478 |
"--db-update-only") |
|
ajout d'un message d'aide
|
479 |
#|ne génère pas de fichier de résultat |
complète re-écriture
|
480 |
db_update_only=$true_flag;; |
481 |
"--cible") |
|
ajout possibilité de compare...
|
482 |
#<nom court du groupe>|génère un comparatif pour ce groupe. Par défaut LREM |
483 |
groupe[0]="${2^^}" |
|
complète re-écriture
|
484 |
shift;; |
485 |
"--ref") |
|
ajout possibilité de compare...
|
486 |
#<nom court du groupe ou des groupes>|compare avec ce ou ces groupes. Si plusieurs groupes, ils sont séparés par une virgule, sans espace. Par défaut GDR |
fix typo
|
487 |
groupe_ref="${2^^}" |
complète re-écriture
|
488 |
shift;; |
489 |
"--député") |
|
ajout d'un message d'aide
|
490 |
#<nom>|filtre la cible sur un-e député-e sur le groupe cible (par défaut LREM). <nom> est insensible à la casse. Tout ou partie du nom ou du prénom peut être donné, espace compris. Caractère % utilisé comme caractère joker. Si aucune correspondance n'est trouvée avec un-e député-é, sortie en erreur. Si plusieurs député-e-s correspondent la liste est affichée et sortie en erreur. |
complète re-écriture
|
491 |
depute=$true_flag |
492 |
nom="$2" |
|
493 |
shift;; |
|
sélection possible de la man...
|
494 |
"--mandature") |
495 |
mandature="$2" |
|
496 |
;; |
|
complète re-écriture
|
497 |
"--premier-scrutin") |
ajout d'un message d'aide
|
498 |
#<numéro>|commence la génération du résultat à partir du scrutin <numéro> |
complète re-écriture
|
499 |
no_db_update=$true_flag |
500 |
first="$2" |
|
501 |
shift;; |
|
502 |
"--dernier-scrutin") |
|
ajout d'un message d'aide
|
503 |
#<numéro>|termine la génération du résultat au scrutin <numéro> |
complète re-écriture
|
504 |
no_db_update=$true_flag |
505 |
last="$2" |
|
506 |
shift;; |
|
507 |
"--période") |
|
ajout d'un message d'aide
|
508 |
#<jj/mm/aaaa:JJ/MM/AAAA>|génère un résultat pour les scrutins allant de jj/mm/aaaa à JJ/MM/AAAA |
complète re-écriture
|
509 |
periode=$true_flag |
510 |
no_db_update=$true_flag |
|
511 |
periode_value="$2" |
|
512 |
shift;; |
|
513 |
"--liste-députés-du-groupe") |
|
ajout d'un message d'aide
|
514 |
#<nom court du groupe>|liste les député-e-s du groupe <nom court du groupe> sur la mandature |
complète re-écriture
|
515 |
liste_deputes=$true_flag |
516 |
liste_deputes_value="${2^^}" |
|
517 |
shift;; |
|
518 |
"--liste-députés") |
|
ajout d'un message d'aide
|
519 |
#|liste tou-te-s les député-e-s de la mandature |
complète re-écriture
|
520 |
liste_deputes=$true_flag;; |
521 |
"--liste-dossiers") |
|
ajout d'un message d'aide
|
522 |
#|affiche une liste numérotée des dossiers et sort |
complète re-écriture
|
523 |
liste_dossiers=$true_flag;; |
524 |
"--dossier") |
|
ajout d'un message d'aide
|
525 |
#<numéro>|génère un résultat pour le dossier numéroté <numéro> |
complète re-écriture
|
526 |
dossier=$true_flag |
527 |
dossier_value="$2" |
|
528 |
shift;; |
|
529 |
"--dossiers") |
|
ajout d'un message d'aide
|
530 |
#|sélection interactive du dossier |
complète re-écriture
|
531 |
dossier=$true_flag;; |
532 |
"--conf") |
|
ajout d'un message d'aide
|
533 |
#<fichier>|indique le chemin vers le fichier de configuration. Par défaut "{_}.conf" |
complète re-écriture
|
534 |
test -r "$2" || { |
535 |
echo "config introuvable $2" >&2 |
|
536 |
options_error=$true_flag |
|
537 |
} |
|
538 |
config_file="$2" |
|
539 |
shift;; |
|
ajout de l'option de destina...
|
540 |
"--dest") |
541 |
#<répertoire>|génère le fichier dans le répertoire spécifié. Par défaut $PWD |
|
542 |
if test -n "$2" && test -d "$2" -a -r "$2"; then |
|
543 |
destination_path="$2" |
|
544 |
shift |
|
545 |
else |
|
546 |
echo "$2 n'est pas un répertoire ou n'est pas autorisé en écriture" >&2 |
|
547 |
exit 1 |
|
548 |
fi;; |
|
complète re-écriture
|
549 |
"--database") |
ajout d'un message d'aide
|
550 |
#<fichier>|indique le chemin vers la base de données SQLite3 contenant les informations. Par défaut "{_}.db" |
complète re-écriture
|
551 |
test -r "$2" && file -b "$2" | grep -q '^SQLite 3.x database' || { |
552 |
echo "erreur sur option database: fichier '$2' introuvable ou pas une base SQLite 3" >&2 |
|
553 |
options_error=$true_flag |
|
554 |
} |
|
555 |
database="$2" |
|
556 |
shift;; |
|
557 |
"--progrès-génération") |
|
ajout d'un message d'aide
|
558 |
#<chiffre>|affiche de la progression de la génération du fichier tous les <chiffre>%. Par défaut 5 |
complète re-écriture
|
559 |
generation_progress="$2" |
560 |
shift;; |
|
561 |
"--progrès-update") |
|
ajout d'un message d'aide
|
562 |
#<chiffre>|affiche de la progression de la mise à jour de la base de données tous les <chiffre>%. Par défaut 1 |
complète re-écriture
|
563 |
update_progress="$2" |
564 |
shift;; |
|
ajout d'un message d'aide
|
565 |
"--help") |
566 |
#|affiche cette aide et quitte |
|
567 |
echo "$0 [options]" |
|
568 |
echo "génère un classeur ODS pour comparer les scrutins publics de la 15ème mandature à l'Assemblée Nationale" |
|
569 |
echo |
|
570 |
sed -rn '/^ *"--.+"\)/N; s/^ *"(--.+)"\)\n#(.+)$/\1|\2/p' "$0" \ |
|
571 |
| awk -F'|' -v marge=' ' -v prog="$0" '{ |
|
572 |
printf("%s %s\n" marge "%s\n\n", $1, $2, gensub("\\. ", "\\\n" marge, "g", gensub("\\{_\\}", prog, "g", $3))) |
|
573 |
}' |
|
574 |
exit;; |
|
complète re-écriture
|
575 |
esac |
576 |
shift |
|
ajout script d'analyse des v...
|
577 |
done |
écriture directe en feuille ...
|
578 | |
complète re-écriture
|
579 |
test "$options_error" = $true_flag && exit 1 |
ajout script d'analyse des v...
|
580 | |
complète re-écriture
|
581 |
test -z "$database" && database="${0}.db" |
utilsation d'une archive com...
|
582 | |
583 | ||
ajout possibilité de compare...
|
584 |
IFS=',' groupe=(${groupe[0]:-LREM} ${groupe_ref:-GDR}) |
ajout script d'analyse des v...
|
585 | |
complète re-écriture
|
586 |
in_ram_database=$(mktemp --dry-run /dev/shm/XXXXXXXXXXXX) |
587 |
if test -r "$database"; then |
|
588 |
cp "$database" "$in_ram_database" |
|
589 |
else |
|
590 |
create_database |
|
591 |
fi |
|
ajout script d'analyse des v...
|
592 | |
ajoute vérification des noms...
|
593 |
function check_groupes () { |
594 |
nb_groupe=$(sqlite_request "select count(id) from groupes where nom like \"%$1%\" or nom_court is \"$1\"") |
|
595 |
if test $nb_groupe -eq 0; then |
|
596 |
echo "aucun groupe ne correspond au critère $1" >&2 |
|
597 |
exit 1 |
|
598 |
elif test $nb_groupe -gt 1; then |
|
599 |
echo "plusieurs groupes correspondent au critère $1" >&2 |
|
600 |
sqlite_request "select printf('• %s%s', nom, iif(nom_court is not null, ' [' || nom_court || ']', '')) from groupes where nom like \"%$1%\" or nom_court = \"$1\"" | grep --color -i "$1" >&2 |
|
complète re-écriture
|
601 |
exit 1 |
602 |
fi |
|
ajoute vérification des noms...
|
603 |
} |
ajout script d'analyse des v...
|
604 | |
complète re-écriture
|
605 |
if test "$periode" = $true_flag; then |
amélioration code
|
606 |
first=$(sqlite_request "select num from scrutins where date like '% du ${periode_value%:*}' order by num asc" | head -1) |
607 |
last=$(sqlite_request "select num from scrutins where date like '% du ${periode_value#*:}' order by num asc" | tail -1) |
|
complète re-écriture
|
608 |
test -z "$first" && echo "date de début inconnue: ${periode_value#*:}" >&2 && rm -f $in_ram_database && exit 1 |
609 |
test -z "$last" && echo "date de fin inconnue: ${periode_value%:*}" >&2 && rm -f $in_ram_database && exit 1 |
|
fix bug sur premier scrutin
|
610 |
elif test "$dossier" != $true_flag; then |
factorisation
|
611 |
test -z "$last" && last=$(dernier_scrutin_public) |
fix bug sur premier scrutin
|
612 |
test -z "$first" && first=1 |
complète re-écriture
|
613 |
fi |
affiche nom du fichier des r...
|
614 | |
complète re-écriture
|
615 |
if test "$liste_dossiers" = $true_flag; then |
amélioration code
|
616 |
sqlite_request "select printf('%s - %s', id, url) from url" | sed 's,https*://.*/dossiers/,,; s/_/ /g; s/.asp$//' |
complète re-écriture
|
617 |
exit |
618 |
fi |
|
619 | ||
620 |
if test "$db_update_only" = $true_flag; then |
|
621 |
unset first last |
|
factorisation
|
622 |
last=$(dernier_scrutin_public) |
complète re-écriture
|
623 |
update_database |
624 |
exit |
|
625 |
fi |
|
626 | ||
ajoute vérification des noms...
|
627 |
for (( g = 0; g < ${#groupe[@]}; g++ )); do |
628 |
check_groupes "${groupe[$g]}" |
|
629 |
groupe_id[$g]=$(sqlite_request "select id from groupes where nom like \"%${groupe[$g]}%\" or nom_court is '${groupe[$g]}'") |
|
630 |
done |
|
631 | ||
complète re-écriture
|
632 |
if test "$liste_deputes" = $true_flag; then |
633 |
if test -n "$liste_deputes_value"; then |
|
amélioration code
|
634 |
sqlite_request "select printf('%s - %s', députés.nom, groupes.nom_court) from députés inner join groupes on groupes.id = députés.groupe where groupes.nom_court is '$liste_deputes_value'" |
complète re-écriture
|
635 |
else |
amélioration code
|
636 |
sqlite_request "select printf('%s - %s', députés.nom, groupes.nom_court) from députés inner join groupes on groupes.id = députés.groupe order by groupes.nom_court asc" |
complète re-écriture
|
637 |
fi |
638 |
exit |
|
639 |
fi |
|
écriture directe en feuille ...
|
640 | |
complète re-écriture
|
641 |
if test "$depute" = $true_flag; then |
642 |
if test -n "$nom"; then |
|
amélioration code
|
643 |
match=$(sqlite_request "select count(députés.id) from députés inner join groupes on groupes.id = députés.groupe where députés.nom like '%$nom%' and groupes.nom_court is '$groupe' collate nocase") |
complète re-écriture
|
644 |
if test $match -ne 1; then |
645 |
if test $match -eq 0; then |
|
646 |
echo "pas de député correspondant dans le groupe $groupe" |
|
647 |
else |
|
648 |
echo "plusieurs députés correspondent:" |
|
amélioration code
|
649 |
sqlite_request "select députés.nom from députés inner join groupes on groupes.id = députés.groupe where députés.nom like '%$nom%' and groupes.nom_court is '$groupe' collate nocase" |
complète re-écriture
|
650 |
fi |
651 |
exit 1 |
|
652 |
else |
|
amélioration code
|
653 |
nom=$(sqlite_request "select députés.id,députés.nom from députés inner join groupes on groupes.id = députés.groupe where députés.nom like '%$nom%' and groupes.nom_court is '$groupe' collate nocase") |
ajout possibilité de compare...
|
654 |
groupe[0]="${nom#*|} (${groupe[0]})" |
complète re-écriture
|
655 |
fi |
656 |
fi |
|
657 |
fi |
|
658 | ||
659 |
if test "$dossier" = $true_flag; then |
|
factorisation
|
660 |
last=$(dernier_scrutin_public) |
complète re-écriture
|
661 |
if test -z "$dossier_value"; then |
662 |
IFS=$'\n' |
|
amélioration code
|
663 |
select dossier in $(sqlite_request "select url from url" | sed 's,^.*/dossiers/,,; s/_/ /g; s/.asp$//'); do |
complète re-écriture
|
664 |
if test -n "$dossier"; then |
amélioration code
|
665 |
seq="sqlite_request \"select num from scrutins inner join url on url.id = scrutins.url where url.url like '%/dossiers/${dossier// /_}%' order by num asc\"" |
666 |
qty=$(sqlite_request "select count(num) from scrutins inner join url on url.id = scrutins.url where url.url like '%/dossiers/${dossier// /_}%' order by num asc") |
|
complète re-écriture
|
667 |
break |
668 |
fi |
|
669 |
done |
|
670 |
IFS=$IFS_ |
|
671 |
else |
|
amélioration code
|
672 |
seq="sqlite_request \"select num from scrutins inner join url on url.id = scrutins.url where url.id is $dossier_value order by num asc\"" |
673 |
qty=$(sqlite_request "select count(num) from scrutins inner join url on url.id = scrutins.url where url.id is $dossier_value order by num asc") |
|
674 |
dossier=$(sqlite_request "select url from url where id is $dossier_value" | sed 's,^.*/dossiers/,,; s/_/ /g; s/.asp$//') |
|
complète re-écriture
|
675 |
fi |
676 |
fi |
|
écriture directe en feuille ...
|
677 | |
complète re-écriture
|
678 |
update_database |
679 |
write_comparaison |