Wiki

Version 123 (Etienne Pallier, 05/28/2015 11:06 am)

1 1 Etienne Pallier
h1. Wiki
2 1 Etienne Pallier
3 8 Etienne Pallier
{{toc}}
4 3 Etienne Pallier
5 105 Etienne Pallier
6 35 Etienne Pallier
---
7 35 Etienne Pallier
8 105 Etienne Pallier
h2. UTILISATION EFFECTIVE EN SALLE BLANCHE
9 105 Etienne Pallier
10 106 Etienne Pallier
http://planetowiki.irap.omp.eu/do/view/Computers/PcChemcam2Tour#Utilisation_du_logiciel_C_SPEC_H
11 105 Etienne Pallier
12 105 Etienne Pallier
13 105 Etienne Pallier
---
14 105 Etienne Pallier
15 123 Etienne Pallier
16 123 Etienne Pallier
h2. %{margin-left:0px; font-weight:normal; font-size:150;  display:block; background-color:yellow; color:red}DEPOT SVN%
17 123 Etienne Pallier
18 35 Etienne Pallier
19 35 Etienne Pallier
(cliquer sur l'onglet Dépôt)
20 35 Etienne Pallier
21 35 Etienne Pallier
 * URL du dépôt : https://usvn-chemcam.irap.omp.eu/repo/c-spec-hk/trunk/
22 35 Etienne Pallier
23 35 Etienne Pallier
 * Administration du dépôt : https://usvn-chemcam.irap.omp.eu
24 35 Etienne Pallier
25 35 Etienne Pallier
 * Administrateur : Etienne Pallier
26 35 Etienne Pallier
27 35 Etienne Pallier
 * Groupes :
28 76 Etienne Pallier
29 35 Etienne Pallier
   * grp-admin-chemcam : Admin du dépot CHEMCAM (RW sur racine).
30 35 Etienne Pallier
   * grp-chemcam : Les développeurs de CHEMCAM (RW sur branches).
31 35 Etienne Pallier
   * On peut également créer un groupe grp-readonly-chemcam (et mettre les droits en read-only sur tout le projet)
32 35 Etienne Pallier
33 35 Etienne Pallier
 * Ajout d'utilisateurs 
34 35 Etienne Pallier
35 11 Etienne Pallier
  * On peut ajouter des utilisateurs extérieurs via l'interface web, puis les ajouter dans les groupes (en tant que "Utilisateurs affectés").
36 42 Etienne Pallier
  * Dans le cas des utilisateurs IRAP, il faut qu'ils se connectent une première fois sur https://usvn-idems.irap.omp.eu avec leur login/mdp IRAP avant de pouvoir être affectés dans les groupes du repository.
37 41 Etienne Pallier
38 104 Etienne Pallier
 * Dashboard : le dashboard du projet est https://usvn-chemcam.irap.omp.eu (=interface de gestion des utilisateurs, groupes et droits d'accès sur le repo, et également navigateur/explorateur du repo)
39 104 Etienne Pallier
40 104 Etienne Pallier
 * Accès : Le repo SVN est accessible depuis partout dans le monde (svn-over-https only), la racine du repo est https://usvn-chemcam.irap.omp.eu/repo/chemcam/
41 104 Etienne Pallier
42 104 Etienne Pallier
 * TODO: passer sur SourceSup : https://sourcesup.renater.fr, https://sourcesup.cru.fr/
43 104 Etienne Pallier
44 104 Etienne Pallier
45 104 Etienne Pallier
46 104 Etienne Pallier
47 121 Etienne Pallier
48 11 Etienne Pallier
49 120 Etienne Pallier
---
50 120 Etienne Pallier
51 122 Etienne Pallier
h2. %{margin-left:0px; font-weight:normal; font-size:150;  display:block; background-color:yellow; color:red}COLLABORATION DE CET OUTIL AVEC C-GDL%
52 122 Etienne Pallier
53 120 Etienne Pallier
54 120 Etienne Pallier
---
55 120 Etienne Pallier
56 11 Etienne Pallier
h2. SPECIFICATIONS
57 1 Etienne Pallier
58 11 Etienne Pallier
59 12 Etienne Pallier
h3. Schéma de connexion
60 11 Etienne Pallier
61 11 Etienne Pallier
PcEGSE <==RJ45==> EGSE <==serial==> ChemCam
62 11 Etienne Pallier
63 11 Etienne Pallier
ChemCam (garde tous les spectres en RAM) : serial==> BU (Body Unit) <== MU (Mast Unit)
64 11 Etienne Pallier
- MU : fait les tirs
65 11 Etienne Pallier
- BU : analyse les spectres
66 11 Etienne Pallier
67 11 Etienne Pallier
SOH (Spectra O? HK)
68 11 Etienne Pallier
69 30 Etienne Pallier
h3. Types d’observations
70 30 Etienne Pallier
71 30 Etienne Pallier
(sur la ligne DOLIBS modifier controlWord)
72 11 Etienne Pallier
73 11 Etienne Pallier
Bit # 	Bit Value	Fonction si activé
74 11 Etienne Pallier
-----	---------	------------------
75 11 Etienne Pallier
76 11 Etienne Pallier
0		1	 	Do focus : effectuer une focalisation (voir focusAlgorithm)
77 11 Etienne Pallier
78 11 Etienne Pallier
1		2	 	Pre dark spectra : acquisition d’un spectre dark AVANT les tirs
79 1 Etienne Pallier
80 11 Etienne Pallier
2		4 		Post dark spectra : acquisition d’un spectre dark APRES les tirs
81 11 Etienne Pallier
82 20 Etienne Pallier
*3		8 		Enable laser : effectuer un (des) tir(s) laser (voir Nshots) (sinon, c'est un DARK)*
83 11 Etienne Pallier
84 11 Etienne Pallier
4		16 		Collect spectra : acquisition de spectre pendant les tirs
85 11 Etienne Pallier
86 11 Etienne Pallier
5		32 		BS
87 11 Etienne Pallier
88 11 Etienne Pallier
89 14 Etienne Pallier
=> 25 = 1+8+16 = tir avec laser
90 14 Etienne Pallier
=> 17 = 1+0+16 = tir sans laser (DARK)
91 11 Etienne Pallier
92 11 Etienne Pallier
Bits 0 et 1 pas utilisés !!! :
93 11 Etienne Pallier
Le mode (Bit0 ET Bit1 activés) ne fait pas des darks after et before satisfaisant donc on le fait séparément en faisant un spectre sans enable laser,
94 1 Etienne Pallier
ce qui génère tous ces spectres avec un controlWord =17 dans la liste.
95 11 Etienne Pallier
96 31 Etienne Pallier
h3. Fichier spectre
97 11 Etienne Pallier
98 11 Etienne Pallier
Suite d'intensités pour chaque canal (dans l'ordre 0, 1, 2, 3, ... 6444)
99 11 Etienne Pallier
A représenter sur axe 
100 11 Etienne Pallier
- X : channel number, assimilable à longueur d'onde : 0 à 6444
101 11 Etienne Pallier
- Y : intensité
102 11 Etienne Pallier
103 11 Etienne Pallier
Si fichier DARK, alors intensités (à peu près) constantes (toutes égales) :
104 14 Etienne Pallier
=> donne le bruit de fond de l'instrument, puisque on a zero lumière
105 1 Etienne Pallier
106 32 Etienne Pallier
h3. Stratégie de développement
107 13 Etienne Pallier
108 11 Etienne Pallier
Prendre le last stack only
109 11 Etienne Pallier
110 11 Etienne Pallier
Lire fichier *_spect.TXT et *_SOH.TXT associé (celui qui est juste avant, < 5mn avant)
111 11 Etienne Pallier
112 11 Etienne Pallier
1 fich/jour
113 11 Etienne Pallier
114 11 Etienne Pallier
Methods to write :
115 11 Etienne Pallier
116 11 Etienne Pallier
findSOH(liste des *SOH.TXT du jour, spect.TXT)
117 16 Etienne Pallier
=> convertit les noms SOH en timestamps, trouve le SOH qui est juste avant le spect.TXT (< 5mn avant)
118 11 Etienne Pallier
119 11 Etienne Pallier
findDARK(liste des *spect.TXT (dark), le spect.TXT pour lequel on veut le dark)
120 16 Etienne Pallier
=> retourne le fichier dark qui est juste après (<5mn) (mais, peut être before...)
121 16 Etienne Pallier
=> regarde un peu autour (avant et après)
122 11 Etienne Pallier
123 11 Etienne Pallier
findAutofocus(...)
124 16 Etienne Pallier
=> *_afocus.TXT (juste prendre son nom, pas son contenu), qui est AVANT
125 11 Etienne Pallier
126 15 Etienne Pallier
h3. EXEMPLE DE FICHIER RESULTAT (LOG) A OBTENIR (1 par jour)
127 11 Etienne Pallier
128 11 Etienne Pallier
data_Feb25_2014_5 
129 11 Etienne Pallier
firstfile = Feb25_161115_2014_spect.TXT
130 11 Etienne Pallier
lastfile = Feb25_162059_2014_spect.TXT
131 1 Etienne Pallier
132 11 Etienne Pallier
id, SPECT_file, SOH_file, 
133 1 Etienne Pallier
134 11 Etienne Pallier
// from *_SOH.TXT file :
135 15 Etienne Pallier
nbStacks					// Nb de stacks (indiqué par le nb occurences de "mast SOH" qui indique le début d'un nouveau stack) - Prendre seulement les HK du LAST stack
136 1 Etienne Pallier
temp_laser_min(degC), temp_laser_max(degC),	// prendre min et max des 4 HK_Temp_Laser_1-4
137 15 Etienne Pallier
temp_spect(C), 					// Spectrometer_Temp
138 15 Etienne Pallier
pm(cnts), 					// Motor_Position
139 11 Etienne Pallier
140 11 Etienne Pallier
// from *_spect.TXT file :
141 15 Etienne Pallier
dist(mm),					// distance to target distToTarget
142 15 Etienne Pallier
nshots, 					// (Nshots) ajouter ici "nshots_real" car le laser fait parfois plus de shots que prévu (erreur) (lire 1ère ligne pour savoir le nb de col)
143 15 Etienne Pallier
controlWord, 					// 25 = tir avec laser,  17 = tir sans laser (DARK)
144 15 Etienne Pallier
data_mean,					// moyenne des data \ nbshots reels (= intensité moyenne ?) (à lire from >>>>>Begin Processed Spectral Data<<<<<)
145 15 Etienne Pallier
dark_file, 					// remplacer par dark_file_before, dark_file_after (file name)
146 15 Etienne Pallier
mean_spect_value - dark				// (= data_mean - ???)
147 11 Etienne Pallier
148 11 Etienne Pallier
149 11 Etienne Pallier
// Liste des fichiers *_spect.TXT associés avec leurs paramètres HK (trouvés dans *_SOH.TXT) :
150 11 Etienne Pallier
151 11 Etienne Pallier
id, SPECT_file, SOH_file, nbStacks, temp_laser_min, temp_laser_max, temp_spect, pm, dist(mm), nshots, controlWord, data_mean, dark_file_before, dark_file_after, mean_spect_value - dark
152 11 Etienne Pallier
153 11 Etienne Pallier
  1 Feb25_161115_2014_spect.TXT 161055 nbStacks 4.25 5.44 30.15 5499 3000 10  25   677.39 161142 dark_file_after 50.28 
154 15 Etienne Pallier
  2 (D)Feb25_161142_2014_spect.TXT 161132 4.29 5.48 30.15 5499 3000 10  17   627.11 -        627.11 
155 11 Etienne Pallier
  3 Feb25_161243_2014_spect.TXT 161210 4.29 5.33 30.15 5444 2951 10  25   649.07 161307    19.72 
156 11 Etienne Pallier
  4 Feb25_161307_2014_spect.TXT 161257 4.25 5.55 30.15 5444 3000 10  17   629.35 -        629.35 
157 11 Etienne Pallier
  5 Feb25_161339_2014_spect.TXT 161329 4.25 5.59 30.15 5454 2959 10  25   674.78 161404    43.76 
158 1 Etienne Pallier
  6 Feb25_161404_2014_spect.TXT 161353 4.29 5.52 30.15 5454 3000 10  17   631.02 -        631.02 
159 1 Etienne Pallier
  7 Feb25_161435_2014_spect.TXT 161425 4.21 5.55 30.15 5463 2967 10  25   693.77 161500    60.76 
160 11 Etienne Pallier
  8 Feb25_161500_2014_spect.TXT 161450 4.33 5.59 30.15 5463 3000 10  17   633.01 -        633.01 
161 11 Etienne Pallier
  9 Feb25_161532_2014_spect.TXT 161521 4.29 5.59 30.15 5473 2975 10  25   703.08 161556    68.71 
162 11 Etienne Pallier
 10 Feb25_161556_2014_spect.TXT 161546 4.36 5.52 30.15 5473 3000 10  17   634.36 -        634.36 
163 11 Etienne Pallier
 11 Feb25_161646_2014_spect.TXT 161636 4.33 5.63 30.15 5482 2983 10  25   702.22 161711    67.98 
164 11 Etienne Pallier
 12 Feb25_161711_2014_spect.TXT 161701 4.33 5.59 30.15 5482 3000 10  17   634.24 -        634.24 
165 11 Etienne Pallier
 13 Feb25_161743_2014_spect.TXT 161733 4.36 5.55 30.15 5493 2992 10  25   695.08 161808    58.88 
166 11 Etienne Pallier
 14 Feb25_161808_2014_spect.TXT 161757 4.36 5.55 30.15 5493 3000 10  17   636.20 -        636.20 
167 11 Etienne Pallier
 15 Feb25_161840_2014_spect.TXT 161829 4.40 5.59 30.15 5502 3000 10  25   683.94 161905    46.74 
168 11 Etienne Pallier
 16 Feb25_161905_2014_spect.TXT 161854 4.40 5.59 30.15 5502 3000 10  17   637.20 -        637.20 
169 11 Etienne Pallier
 17 Feb25_161937_2014_spect.TXT 161926 4.40 5.59 30.15 5513 3009 10  25   675.67 162002    37.24 
170 11 Etienne Pallier
 18 Feb25_162002_2014_spect.TXT 161951 4.44 5.59 30.15 5513 3000 10  17   638.43 -        638.43 
171 11 Etienne Pallier
 19 Feb25_162034_2014_spect.TXT 162023 4.36 5.63 30.15 5522 3017 10  25   663.56 162059    24.10 
172 15 Etienne Pallier
 20 (D) Feb25_162059_2014_spect.TXT 162048 4.40 5.63 30.15 5522 3000 10  17   639.46 -        639.46
173 15 Etienne Pallier
174 46 Etienne Pallier
h3. CAS EXCEPTIONNELS à traiter (Exceptions)
175 43 Etienne Pallier
176 43 Etienne Pallier
 * NoDataFileFoundException : pas de fichier (ni Spectre ni SOH) dans le dossier DATA/
177 43 Etienne Pallier
178 43 Etienne Pallier
 * MalformedFileException : fichier (Spectre ou SOH) avec format incorrect
179 43 Etienne Pallier
180 43 Etienne Pallier
 * UnknownCaseException : Cas inconnu ; par exemple, controlWord ni 17 (DARK) ni 25 (PAS DARK) !!!
181 43 Etienne Pallier
182 47 Etienne Pallier
 * noSOHFileFoundForSpectraFileException : pas de fichier SOH (HK) trouvé pour un fichier Spectra (data)
183 47 Etienne Pallier
184 109 Etienne Pallier
h3. EVOLUTIONS DU PROJET suite à réunions du 29/4/15 et du 22/5/15
185 98 Etienne Pallier
186 99 Etienne Pallier
Réunion le 29/4/15 avec WR, AC, PM, et EP
187 1 Etienne Pallier
188 109 Etienne Pallier
Réunion le 22/5/15 avec idem + OG
189 109 Etienne Pallier
190 111 Etienne Pallier
*Actions* : 
191 110 Etienne Pallier
- OG et AC : réfléchier à une simplification éventuelle de l'outil CGDL (en un seul formulaire au lieu de plusieurs onglets)
192 110 Etienne Pallier
- EP : proposer une solution technique répondant au besoin
193 110 Etienne Pallier
194 114 Etienne Pallier
*Besoin* : 
195 117 Etienne Pallier
Créer un *contexte* (ensemble d'informations de description) pour décrire chaque série de tirs ChemCam effectués en salle blanche et auquel seront automatiquement associés tous les fichiers (spectres, HK, ...) générés à l'occasion de ces tirs.
196 1 Etienne Pallier
Un nouveau contexte devra être créé à chaque fois qu'on change de roche, de distance de tir, ou bien de type d'atmosphère...
197 112 Etienne Pallier
198 1 Etienne Pallier
*Solution* : 
199 114 Etienne Pallier
Pour répondre à ce besoin, plutôt que de re-développer un nouvel outil, on doit pouvoir faire collaborer efficacement deux outils existants que sont C-GDL et C-SPEC-HK ; 
200 1 Etienne Pallier
de plus, ces 2 outils devront subir quelques adaptations plus ou moins importantes.
201 117 Etienne Pallier
*C-GDL* est une IHM Java qui permet de créer manuellement un contexte 
202 117 Etienne Pallier
*C-SPEC-HK* est un script Python qui s'exécute en permanence en arrière-plan, et qui associe automatiquement les fichiers HK (SOH) aux fichiers spectres et crée un fichier LOG quotidien décrivant ces associations (pour la journée), au fur et à mesure des tirs ChemCam
203 119 Etienne Pallier
Il faut donc faire collaborer ces 2 outils pour qu'un contexte C-GDL soit automatiquement associé aux fichiers générés par les tirs ChemCam et qui sont regroupés par C-SPEC-HK (y-compris le fichier de LOG généré par C-SPEC-HK).
204 112 Etienne Pallier
205 112 Etienne Pallier
206 112 Etienne Pallier
207 109 Etienne Pallier
******************
208 109 Etienne Pallier
209 109 Etienne Pallier
NOUVELLES NOTES A TRIER
210 109 Etienne Pallier
211 109 Etienne Pallier
212 109 Etienne Pallier
Transférer tous les types de fichiers (TXT, RAW…)
213 109 Etienne Pallier
214 109 Etienne Pallier
Fichier SOH le plus près AVANT le transmit (génère le spectre)
215 109 Etienne Pallier
216 109 Etienne Pallier
(ce fichier SOH a été fait après le tir, et avant le transmit)
217 109 Etienne Pallier
218 109 Etienne Pallier
Changer label Distance : dist(mm) => dist SEED (mm)
219 109 Etienne Pallier
220 109 Etienne Pallier
Tableau utile pour la partie processing, sorte de masterlist
221 109 Etienne Pallier
222 109 Etienne Pallier
Convertir la colonne pm en distance réelle : (donner formule) « dist real (mm)»
223 109 Etienne Pallier
224 109 Etienne Pallier
225 109 Etienne Pallier
226 109 Etienne Pallier
C-GDL :
227 109 Etienne Pallier
228 109 Etienne Pallier
On change de contexte quand on change la roche, la distance, ou l’atmosphère…	
229 109 Etienne Pallier
Les champs bleus entrent dans le nom du contexte (y-compris « atmosphere, earth, mars » dans onglet Environment)
230 109 Etienne Pallier
231 109 Etienne Pallier
Hard/Location (label) en bleu
232 109 Etienne Pallier
233 109 Etienne Pallier
Dist/Distance to target => approximate dist to target
234 109 Etienne Pallier
enlever « obtained »
235 109 Etienne Pallier
st => step
236 109 Etienne Pallier
237 109 Etienne Pallier
Misc/Temperature => Instrument chamber temperature
238 109 Etienne Pallier
239 109 Etienne Pallier
more comments => Desc 
240 109 Etienne Pallier
"Sample in Martian chamber
241 109 Etienne Pallier
With folding mirror
242 109 Etienne Pallier
Laser in instrument chamber" 
243 109 Etienne Pallier
244 109 Etienne Pallier
Enlever laser pulse
245 109 Etienne Pallier
246 109 Etienne Pallier
247 109 Etienne Pallier
Onglet de démarrage START :
248 109 Etienne Pallier
- NEW from scratch
249 109 Etienne Pallier
ou
250 109 Etienne Pallier
- RE-OPEN (modif)
251 109 Etienne Pallier
- NEW from existant
252 109 Etienne Pallier
253 109 Etienne Pallier
supprimer la fonctionnalité du 000, 001, 002 à la fin du nom du contexte
254 109 Etienne Pallier
255 109 Etienne Pallier
Nouvel onglet ?
256 109 Etienne Pallier
NOTEBOOK
257 109 Etienne Pallier
258 109 Etienne Pallier
START déclenche un nouveau contexte
259 109 Etienne Pallier
260 109 Etienne Pallier
******************
261 109 Etienne Pallier
262 109 Etienne Pallier
263 109 Etienne Pallier
264 109 Etienne Pallier
265 109 Etienne Pallier
266 98 Etienne Pallier
267 101 Etienne Pallier
*Objectif final* : Faire collaborer les 3 outils C-Spec-HK, C-GDL, et la prise de photos par la webcam du pc portable de la salle blanche
268 101 Etienne Pallier
269 100 Etienne Pallier
C-Spec-HK est déjà installé sur le pc-EGSE. Il faudra y ajouter C-GDL.
270 100 Etienne Pallier
Dans l'idéal, la communication avec la webcam nécessitera de mettre les 2 pc (PC-EGSE et le portable webcam) en réseau (soit sur le réseau global IRAP, soit sur un réseau privé salle blanche avec un hub ou switch ; sachant que pc-EGSE est déjà en réseau privé avec le BU-EGSE, il faudrait donc mettre ces 3 éléments sur un même réseau).
271 1 Etienne Pallier
En attendant, on pourrait se contenter d'un "mode dégradé", qui consisterait à copier manuellement (via clé ou disque usb) les photos de la webcam sur le pc-EGSE
272 98 Etienne Pallier
273 101 Etienne Pallier
*Adaptations nécessaires sur les logiciels (C-Spec-HK et C-GDL) :*
274 100 Etienne Pallier
275 102 Etienne Pallier
*1) C-GDL*
276 1 Etienne Pallier
277 102 Etienne Pallier
C-GDL réalise 1 contexte par cible
278 98 Etienne Pallier
279 102 Etienne Pallier
Lancer C-GDL au démarrage du pc
280 1 Etienne Pallier
281 102 Etienne Pallier
(OPT: Créer un contexte vide par défaut au démarrage, mais pas forcément nécessaire)
282 1 Etienne Pallier
283 102 Etienne Pallier
Cible LIBS only (enlever RMI et FOCUS)
284 1 Etienne Pallier
285 102 Etienne Pallier
Créer un fichier xml sur SAVE (contenant uniquement le contexte de la cible) :
286 102 Etienne Pallier
actuellement, ce fichier n'est pas créé séparément, il est ajouté à un fichier CgdlContextList.xml dans le répertoire du programme
287 102 Etienne Pallier
(trié par date puis par nom de cible)
288 102 Etienne Pallier
=> Ajouter un nouveau bouton "Save Context" (en plus du bouton "Save") qui crée un fichier séparé du contexte (xml)
289 1 Etienne Pallier
290 102 Etienne Pallier
Ajouter un bouton "RESET ALL" sur le premier onglet (Observation) qui remet TOUS les onglets à leurs valeurs par défaut
291 1 Etienne Pallier
292 102 Etienne Pallier
Dans l'idéal, plutôt que d'être codées en dur, les valeurs par défaut doivent être dans un fichier xml DEFAULT.xml (que l'on pourra ainsi faire évoluer dans le temps sans avoir à toucher au code)
293 1 Etienne Pallier
294 102 Etienne Pallier
Au démarrage : on part sur un nouveau contexte avec les valeurs par défaut standard
295 103 Etienne Pallier
Une fois le contexte créé, il reste actif pendant toute l'utilisation du logiciel,
296 103 Etienne Pallier
et ne change que si on change le nom de la cible.
297 1 Etienne Pallier
298 103 Etienne Pallier
Le fichier contexte ne contient que l'heure, il faudrait ajouter minutes et secondes.
299 103 Etienne Pallier
300 102 Etienne Pallier
VALEURS PAR DEFAUT des champs pour chaque onglet :
301 1 Etienne Pallier
302 1 Etienne Pallier
Observation :
303 1 Etienne Pallier
- type : LIBS
304 1 Etienne Pallier
305 1 Etienne Pallier
Target :
306 1 Etienne Pallier
- granulo : unknown
307 1 Etienne Pallier
- rough : unknown
308 1 Etienne Pallier
- size : 1-5 cm
309 1 Etienne Pallier
- albedo : remplacer 0 par unknown
310 1 Etienne Pallier
- origin : ajouter PELLET
311 1 Etienne Pallier
- composition : unknown
312 1 Etienne Pallier
313 1 Etienne Pallier
Env :
314 1 Etienne Pallier
- Mars
315 1 Etienne Pallier
- pressure : controlled
316 1 Etienne Pallier
317 1 Etienne Pallier
Hard :
318 1 Etienne Pallier
- Location : IRAP
319 1 Etienne Pallier
- body unit : + Chemcam EM 2013 (par défaut)
320 1 Etienne Pallier
- Ctrl/cde : LANL/GSE
321 1 Etienne Pallier
- Mast : CC EQM
322 98 Etienne Pallier
- Fiber : FM-like
323 98 Etienne Pallier
324 98 Etienne Pallier
Dist :
325 98 Etienne Pallier
- Obtained : autofocus
326 98 Etienne Pallier
327 98 Etienne Pallier
Misc :
328 98 Etienne Pallier
- temperature : désactiver
329 98 Etienne Pallier
- SOH : yes
330 98 Etienne Pallier
- more comments : 
331 102 Etienne Pallier
"Sample in Martian chamber
332 98 Etienne Pallier
With folding mirror
333 102 Etienne Pallier
Laser in cold chamber"
334 102 Etienne Pallier
- Laser freq : 3 Hz
335 102 Etienne Pallier
- Existing of laser : désactiver
336 98 Etienne Pallier
337 102 Etienne Pallier
END :
338 98 Etienne Pallier
bouton Save Context (rouge si pas encore fait, ou bien le nom du fichier en rouge ?)
339 98 Etienne Pallier
340 103 Etienne Pallier
Voir avec Agnès : Faut-il vraiment maintenir la fonctionnalité "ajouter des fichiers numériques au contexte" ?
341 98 Etienne Pallier
342 98 Etienne Pallier
343 107 Etienne Pallier
344 107 Etienne Pallier
345 102 Etienne Pallier
*2) C-Spec-HK*
346 107 Etienne Pallier
347 107 Etienne Pallier
Fichier LOG : Produire un CSV + un fichier HTML (ou fichier texte séparé par tabulations) pour qu'il soit lisible sans devoir passer par Open Office
348 102 Etienne Pallier
349 1 Etienne Pallier
DARK BEFORE/AFTER : priorité au DARK AFTER
350 1 Etienne Pallier
Le DARK BEFORE est très rare, il existerait seulement si il y a 2 DARK à la suite (le 2ème serait le DARK BEFORE du SPECTRE LIBS qui arrive ensuite)
351 103 Etienne Pallier
=> pour simplifier, on peut le supprimer (donc supprimer 2 colonnes dans le fichier LOG)
352 1 Etienne Pallier
353 103 Etienne Pallier
Passer le délai de la boucle du traitement quotidien à 2 secondes (au lieu de 60 actuellement)
354 1 Etienne Pallier
355 103 Etienne Pallier
Les 2 fichiers "LOG général" et "LOG du jour" doivent s’afficher automatiquement au démarrage
356 102 Etienne Pallier
357 103 Etienne Pallier
Le LOG général affiche l'état en cours d'exécution du script, pour savoir où on en est :
358 103 Etienne Pallier
- a) traitement global des fichiers, avec affichage des dossiers jours créés
359 103 Etienne Pallier
Ne pas afficher le contenu de /home/vx/EQM_DATA/
360 1 Etienne Pallier
(log files « created » in …)
361 102 Etienne Pallier
car ces dossiers ont été créés antérieurement
362 103 Etienne Pallier
N’afficher le contenu QUE du dossier qui vient d’être créé
363 103 Etienne Pallier
- b) traitement quotidien des fichiers du jour, avec affichage de : 
364 103 Etienne Pallier
  - numéro d'itération
365 103 Etienne Pallier
  - fichiers SPECTRE et SOH traités (+ leur nombre)
366 102 Etienne Pallier
367 103 Etienne Pallier
Le LOG quotidien affiche le contenu du fichier LOG du jour (qui se remplit au fur et à mesure)
368 102 Etienne Pallier
369 102 Etienne Pallier
Mettre les 4 champs de température laser
370 102 Etienne Pallier
371 103 Etienne Pallier
Formule pour distance à partir de pm (quelqu'un doit me la donner)
372 102 Etienne Pallier
(supprimer dist(mm))
373 102 Etienne Pallier
374 103 Etienne Pallier
Supprimer nshots
375 102 Etienne Pallier
376 102 Etienne Pallier
Créer un dossier avec pour nom datedujour+contexte-name/
377 102 Etienne Pallier
Si pas de contexte avec la date du jour (au démarrage), créer un dossier datedujour+NO-CONTEXT/
378 103 Etienne Pallier
Quand le contexte change (un nouveau fichier contexte a été créé via C-GDL), alors un nouveau dossier est créé
379 103 Etienne Pallier
*Problème : que va-t-il se passer si le contexte est créé A POSTERIORI, après avoir fait tous les tirs ???*
380 102 Etienne Pallier
381 103 Etienne Pallier
(Technique interne : Ne laisser que c-spec-hk-workflow à la racine du projet, le reste doit être dans un sous-dossier (contiendra c-spec-hk + tests))
382 98 Etienne Pallier
383 98 Etienne Pallier
384 98 Etienne Pallier
385 98 Etienne Pallier
386 98 Etienne Pallier
387 98 Etienne Pallier
388 98 Etienne Pallier
389 98 Etienne Pallier
390 98 Etienne Pallier
391 98 Etienne Pallier
392 98 Etienne Pallier
393 98 Etienne Pallier
394 98 Etienne Pallier
395 98 Etienne Pallier
396 98 Etienne Pallier
397 98 Etienne Pallier
398 98 Etienne Pallier
399 98 Etienne Pallier
400 98 Etienne Pallier
401 98 Etienne Pallier
402 98 Etienne Pallier
403 98 Etienne Pallier
404 98 Etienne Pallier
405 98 Etienne Pallier
406 98 Etienne Pallier
407 98 Etienne Pallier
408 98 Etienne Pallier
409 17 Etienne Pallier
410 11 Etienne Pallier
411 86 Etienne Pallier
---
412 4 Etienne Pallier
413 83 Etienne Pallier
h2. RECUPERATION DU PROJET
414 91 Etienne Pallier
415 83 Etienne Pallier
416 83 Etienne Pallier
*a) Directement, depuis svn*
417 83 Etienne Pallier
418 83 Etienne Pallier
svn co https://usvn-chemcam.irap.omp.eu/repo/c-spec-hk/trunk c-spec-hk-svn
419 83 Etienne Pallier
420 83 Etienne Pallier
Si on ne veut pas rester synchronisé avec le repository (juste une copie du projet au temps t, sans les fichiers de versionning .svn) : 
421 1 Etienne Pallier
422 90 Etienne Pallier
svn export https://usvn-chemcam.irap.omp.eu/repo/c-spec-hk/trunk c-spec-hk-svn
423 90 Etienne Pallier
424 91 Etienne Pallier
425 58 Etienne Pallier
426 1 Etienne Pallier
*b) Par téléchargement (100 Mo à cause des données)*
427 1 Etienne Pallier
428 1 Etienne Pallier
https://projects.irap.omp.eu/attachments/download/1237/c-spec-hk_1.1.tgz
429 86 Etienne Pallier
430 95 Etienne Pallier
h2. EXECUTION
431 92 Etienne Pallier
432 92 Etienne Pallier
h3. 1) PRÉREQUIS : Python 2.7
433 92 Etienne Pallier
434 92 Etienne Pallier
h4. Sur Mac (Machine de développement)
435 92 Etienne Pallier
436 92 Etienne Pallier
Avec Macport, pour que la version 2.7 soit bien la version par défaut quand on tape "python" :
437 92 Etienne Pallier
438 92 Etienne Pallier
sudo port select --set python python27
439 92 Etienne Pallier
440 92 Etienne Pallier
$ which python
441 92 Etienne Pallier
/opt/local/bin/python
442 92 Etienne Pallier
443 92 Etienne Pallier
$ python --version
444 92 Etienne Pallier
Python 2.7.9
445 92 Etienne Pallier
446 92 Etienne Pallier
Mettre à jour MacPort :
447 92 Etienne Pallier
sudo port -v selfupdate
448 92 Etienne Pallier
sudo port upgrade outdated
449 92 Etienne Pallier
450 92 Etienne Pallier
451 92 Etienne Pallier
h4. Sur CentOS 6.5 (serveur de production)
452 92 Etienne Pallier
453 92 Etienne Pallier
(fait le 19/3/15 sur le pc-EGSE Chemcam ; cf fiche wiki du pc-EGSE Chemcam : http://planetowiki.irap.omp.eu/do/view/Computers/PcChemcam2Tour)
454 92 Etienne Pallier
455 92 Etienne Pallier
Par défaut, Cent0S 6.5 propose Python 2.6
456 92 Etienne Pallier
457 94 Etienne Pallier
(Voir l'installation de Python 2.7 faite sur le pc-EGSE Chemcam : http://planetowiki.irap.omp.eu/do/view/Computers/PcChemcam2Tour#Installation_de_Python_2_7)
458 86 Etienne Pallier
459 89 Etienne Pallier
h3. 2) EXECUTING TESTS
460 89 Etienne Pallier
461 86 Etienne Pallier
h4. Depuis Eclipse
462 86 Etienne Pallier
463 86 Etienne Pallier
Ouvrir la console adaptée : Window / Show View / PyUnit
464 86 Etienne Pallier
clic-droit sur test/c_spec_hk_TEST.py
465 86 Etienne Pallier
Run As / Python unit-test
466 89 Etienne Pallier
467 86 Etienne Pallier
468 89 Etienne Pallier
h4. En mode ligne de commande
469 86 Etienne Pallier
470 72 Etienne Pallier
h5. TESTS faits avec Python 2.7
471 72 Etienne Pallier
472 1 Etienne Pallier
*1) Tests Unitaires et Fonctionnels*
473 72 Etienne Pallier
474 73 Etienne Pallier
cd test/
475 1 Etienne Pallier
476 72 Etienne Pallier
$ py27 premiertest.py
477 1 Etienne Pallier
<pre>
478 72 Etienne Pallier
...
479 72 Etienne Pallier
----------------------------------------------------------------------
480 1 Etienne Pallier
Ran 3 tests in 0.000s
481 72 Etienne Pallier
482 72 Etienne Pallier
OK
483 73 Etienne Pallier
</pre>
484 72 Etienne Pallier
485 72 Etienne Pallier
$ py27 c_spec_hk_TEST.py
486 72 Etienne Pallier
487 72 Etienne Pallier
<pre>
488 72 Etienne Pallier
...
489 1 Etienne Pallier
======================================================================
490 62 Etienne Pallier
----------------------------------------------------------------------
491 1 Etienne Pallier
Ran 14 tests in 5.833s
492 1 Etienne Pallier
493 72 Etienne Pallier
OK
494 72 Etienne Pallier
</pre>
495 1 Etienne Pallier
496 62 Etienne Pallier
497 72 Etienne Pallier
498 72 Etienne Pallier
499 70 Etienne Pallier
*2) Tests de Performance (Benchmark)*
500 70 Etienne Pallier
501 62 Etienne Pallier
Depuis la racine du projet :
502 62 Etienne Pallier
503 62 Etienne Pallier
<pre>
504 62 Etienne Pallier
$ py27 c_spec_hk.py -t
505 62 Etienne Pallier
...Executing main program...
506 62 Etienne Pallier
Testing execution time of several methods
507 62 Etienne Pallier
508 62 Etienne Pallier
All times are in SECONDS
509 62 Etienne Pallier
510 62 Etienne Pallier
Testing _extractSpectraFileNamesIndexedAndOrdered(dataFileNames) method called from a function time_extractSpectraFileNamesIndexedAndOrdered() (takes about 0.0008" on a MacBookPro 11.1) :
511 62 Etienne Pallier
0.000790863037109
512 62 Etienne Pallier
513 62 Etienne Pallier
Testing _extractSpectraFileNamesIndexedAndOrdered(dataFileNames) method called directly (takes about 0.00012" on a MacBookPro 11.1) :
514 62 Etienne Pallier
0.000117941689491
515 62 Etienne Pallier
516 62 Etienne Pallier
Testing getLogInfosForDay(day,spectraFilesForTheDay) method called directly (takes about 0.06" on a MacBookPro 11.1) :
517 62 Etienne Pallier
0.0429699897766
518 62 Etienne Pallier
519 62 Etienne Pallier
Testing main method createAllLogFiles(True) called directly (takes about 2.8" on a MacBookPro 11.1) :
520 62 Etienne Pallier
test/DATASET/UC0_NOMINAL/LOGS/20110223
521 62 Etienne Pallier
test/DATASET/UC0_NOMINAL/LOGS/20130223
522 62 Etienne Pallier
test/DATASET/UC0_NOMINAL/LOGS/20140123
523 62 Etienne Pallier
test/DATASET/UC0_NOMINAL/LOGS/20140223
524 62 Etienne Pallier
test/DATASET/UC0_NOMINAL/LOGS/20140225
525 62 Etienne Pallier
test/DATASET/UC0_NOMINAL/LOGS/20140226
526 62 Etienne Pallier
test/DATASET/UC0_NOMINAL/LOGS/20150223
527 62 Etienne Pallier
Log files created in test/DATASET/UC0_NOMINAL/LOGS/ :
528 62 Etienne Pallier
total 56
529 62 Etienne Pallier
drwxrwxr-x 2 vx vx 4096 19 mars  16:39 20110223
530 62 Etienne Pallier
-rw-rw-r-- 1 vx vx  471 19 mars  16:39 2011_0223_logs.csv
531 62 Etienne Pallier
drwxrwxr-x 2 vx vx 4096 19 mars  16:39 20130223
532 62 Etienne Pallier
-rw-rw-r-- 1 vx vx  471 19 mars  16:39 2013_0223_logs.csv
533 62 Etienne Pallier
drwxrwxr-x 2 vx vx 4096 19 mars  16:39 20140123
534 62 Etienne Pallier
-rw-rw-r-- 1 vx vx  471 19 mars  16:39 2014_0123_logs.csv
535 62 Etienne Pallier
drwxrwxr-x 2 vx vx 4096 19 mars  16:39 20140223
536 62 Etienne Pallier
-rw-rw-r-- 1 vx vx  471 19 mars  16:39 2014_0223_logs.csv
537 62 Etienne Pallier
drwxrwxr-x 2 vx vx 4096 19 mars  16:39 20140225
538 62 Etienne Pallier
-rw-rw-r-- 1 vx vx 2849 19 mars  16:39 2014_0225_logs.csv
539 62 Etienne Pallier
drwxrwxr-x 2 vx vx 4096 19 mars  16:39 20140226
540 62 Etienne Pallier
-rw-rw-r-- 1 vx vx  474 19 mars  16:39 2014_0226_logs.csv
541 62 Etienne Pallier
drwxrwxr-x 2 vx vx 4096 19 mars  16:39 20150223
542 62 Etienne Pallier
-rw-rw-r-- 1 vx vx  471 19 mars  16:39 2015_0223_logs.csv
543 62 Etienne Pallier
544 62 Etienne Pallier
1.91459012032
545 1 Etienne Pallier
Average time per day : 0.273513
546 1 Etienne Pallier
547 1 Etienne Pallier
*** finished TIMING ***
548 62 Etienne Pallier
549 1 Etienne Pallier
</pre>
550 86 Etienne Pallier
551 89 Etienne Pallier
552 86 Etienne Pallier
553 72 Etienne Pallier
h5. TESTS faits avec Python 2.6
554 1 Etienne Pallier
555 72 Etienne Pallier
C'est encore possible de faire tourner le logiciel en Python 2.6 dans la version 1.1.x, mais ça ne sera plus garanti dans l'avenir (à partir de la version 1.2.x)
556 1 Etienne Pallier
557 72 Etienne Pallier
*1) Tests Unitaires et Fonctionnels*
558 1 Etienne Pallier
559 72 Etienne Pallier
cd test/
560 72 Etienne Pallier
561 72 Etienne Pallier
$ python premiertest.py
562 72 Etienne Pallier
<pre>
563 72 Etienne Pallier
...
564 72 Etienne Pallier
----------------------------------------------------------------------
565 72 Etienne Pallier
Ran 3 tests in 0.000s
566 72 Etienne Pallier
567 72 Etienne Pallier
OK
568 72 Etienne Pallier
</pre>
569 72 Etienne Pallier
570 72 Etienne Pallier
$ python c_spec_hk_TEST.py
571 72 Etienne Pallier
572 72 Etienne Pallier
<pre>
573 72 Etienne Pallier
...
574 72 Etienne Pallier
======================================================================
575 72 Etienne Pallier
----------------------------------------------------------------------
576 72 Etienne Pallier
Ran 14 tests in 6.742s
577 72 Etienne Pallier
578 72 Etienne Pallier
OK
579 72 Etienne Pallier
</pre>
580 72 Etienne Pallier
581 72 Etienne Pallier
---
582 72 Etienne Pallier
583 72 Etienne Pallier
584 72 Etienne Pallier
*2) Tests de Performance (Benchmark)*
585 72 Etienne Pallier
586 58 Etienne Pallier
Depuis la racine du projet 
587 58 Etienne Pallier
588 58 Etienne Pallier
$ ./c_spec_hk.py -t
589 58 Etienne Pallier
<pre>
590 58 Etienne Pallier
...Executing main program...
591 58 Etienne Pallier
Testing execution time of several methods
592 58 Etienne Pallier
593 58 Etienne Pallier
All times are in SECONDS
594 58 Etienne Pallier
595 58 Etienne Pallier
Testing _extractSpectraFileNamesIndexedAndOrdered(dataFileNames) method called from a function time_extractSpectraFileNamesIndexedAndOrdered() (takes about 0.0008" on a MacBookPro 11.1) :
596 58 Etienne Pallier
0.00105306601524
597 58 Etienne Pallier
598 58 Etienne Pallier
Testing _extractSpectraFileNamesIndexedAndOrdered(dataFileNames) method called directly (takes about 0.00012" on a MacBookPro 11.1) :
599 58 Etienne Pallier
0.000152537894249
600 58 Etienne Pallier
601 58 Etienne Pallier
Testing getLogInfosForDay(day,spectraFilesForTheDay) method called directly (takes about 0.06" on a MacBookPro 11.1) :
602 58 Etienne Pallier
0.0518409013748
603 58 Etienne Pallier
604 58 Etienne Pallier
Testing main method createAllLogFiles(True) called directly (takes about 2.8" on a MacBookPro 11.1) :
605 58 Etienne Pallier
test/DATASET/UC0_NOMINAL/LOGS/20110223
606 58 Etienne Pallier
test/DATASET/UC0_NOMINAL/LOGS/20130223
607 58 Etienne Pallier
test/DATASET/UC0_NOMINAL/LOGS/20140123
608 1 Etienne Pallier
test/DATASET/UC0_NOMINAL/LOGS/20140223
609 58 Etienne Pallier
test/DATASET/UC0_NOMINAL/LOGS/20140225
610 59 Etienne Pallier
test/DATASET/UC0_NOMINAL/LOGS/20140226
611 58 Etienne Pallier
test/DATASET/UC0_NOMINAL/LOGS/20150223
612 58 Etienne Pallier
Log files created in test/DATASET/UC0_NOMINAL/LOGS/ :
613 58 Etienne Pallier
total 56
614 58 Etienne Pallier
drwxrwxr-x 3 vx vx 4096 19 mars  14:01 20110223
615 58 Etienne Pallier
-rw-rw-r-- 1 vx vx  471 19 mars  14:01 2011_0223_logs.csv
616 58 Etienne Pallier
drwxrwxr-x 3 vx vx 4096 19 mars  14:01 20130223
617 58 Etienne Pallier
-rw-rw-r-- 1 vx vx  471 19 mars  14:01 2013_0223_logs.csv
618 58 Etienne Pallier
drwxrwxr-x 3 vx vx 4096 19 mars  14:01 20140123
619 1 Etienne Pallier
-rw-rw-r-- 1 vx vx  471 19 mars  14:01 2014_0123_logs.csv
620 58 Etienne Pallier
drwxrwxr-x 3 vx vx 4096 19 mars  14:01 20140223
621 80 Etienne Pallier
-rw-rw-r-- 1 vx vx  471 19 mars  14:01 2014_0223_logs.csv
622 21 Etienne Pallier
drwxrwxr-x 3 vx vx 4096 19 mars  14:01 20140225
623 25 Etienne Pallier
-rw-rw-r-- 1 vx vx 2849 19 mars  14:01 2014_0225_logs.csv
624 1 Etienne Pallier
drwxrwxr-x 3 vx vx 4096 19 mars  14:01 20140226
625 22 Etienne Pallier
-rw-rw-r-- 1 vx vx  474 19 mars  14:01 2014_0226_logs.csv
626 22 Etienne Pallier
drwxrwxr-x 3 vx vx 4096 19 mars  14:01 20150223
627 21 Etienne Pallier
-rw-rw-r-- 1 vx vx  471 19 mars  14:01 2015_0223_logs.csv
628 21 Etienne Pallier
629 77 Etienne Pallier
2.33647012711
630 21 Etienne Pallier
Average time per day : 0.333781
631 21 Etienne Pallier
632 1 Etienne Pallier
*** finished TIMING ***
633 96 Etienne Pallier
</pre>
634 21 Etienne Pallier
635 97 Etienne Pallier
h3. 3) EXECUTING MAIN SCRIPT 
636 1 Etienne Pallier
637 88 Etienne Pallier
h4. Depuis Eclipse
638 88 Etienne Pallier
639 21 Etienne Pallier
clic-droit sur c_spec_hk.py
640 97 Etienne Pallier
Run As / Python Run
641 21 Etienne Pallier
642 21 Etienne Pallier
h4. In Command line mode
643 1 Etienne Pallier
644 80 Etienne Pallier
	a) Pour voir l'aide :
645 81 Etienne Pallier
646 80 Etienne Pallier
$ python c_spec_hk.py -h
647 1 Etienne Pallier
648 80 Etienne Pallier
...Executing main program...
649 1 Etienne Pallier
650 81 Etienne Pallier
Usage:
651 1 Etienne Pallier
652 81 Etienne Pallier
python27 c_spec_hk.py [-i <inputDataDir>] [-o <outputLogDir>]
653 1 Etienne Pallier
OR
654 81 Etienne Pallier
python27 c_spec_hk.py [--inputDir=<inputDataDir>] [--outputDir=<outputLogDir>]
655 1 Etienne Pallier
656 80 Etienne Pallier
Ex: python27 c_spec_hk.py-i './DATA' -o './LOGS'
657 80 Etienne Pallier
658 80 Etienne Pallier
All options available are (none is mandatory) :
659 80 Etienne Pallier
-d : activate DEBUG mode
660 80 Etienne Pallier
-h : print this HELP message
661 80 Etienne Pallier
-n : do NOT create sub-directories (like YYYYMMDD) for each day
662 80 Etienne Pallier
-t : test execution TIME of several methods
663 1 Etienne Pallier
-v : print current VERSION number
664 21 Etienne Pallier
-i <inputDataDir> or --input=<inputDataDir> : set INPUT directory from where DATA files are READ (default is "DATA")
665 1 Etienne Pallier
-o <outputDataDir> or --output=<outputLogDir> : set OUTPUT directory where LOG files are WRITTEN to (default is "LOGS")
666 81 Etienne Pallier
667 80 Etienne Pallier
668 23 Etienne Pallier
669 81 Etienne Pallier
	b) Speed testing (benchmark)
670 21 Etienne Pallier
671 21 Etienne Pallier
cf https://projects.irap.omp.eu/projects/cspechkanalyser/wiki/Wiki#TESTS-faits-avec-Python-27 (section "Tests de performance")
672 21 Etienne Pallier
673 21 Etienne Pallier
674 82 Etienne Pallier
	c) Pour faire un test avec les données d'échantillon fournies :
675 1 Etienne Pallier
676 82 Etienne Pallier
python27 c_spec_hk.py -i test/DATASET/UC0_NOMINAL/DATA -o /tmp/LOGS
677 82 Etienne Pallier
678 21 Etienne Pallier
(il faudra d'abord créer le dossier LOGS/ dans /tmp)
679 21 Etienne Pallier
680 82 Etienne Pallier
Exemple d'affichage attendu :
681 21 Etienne Pallier
682 82 Etienne Pallier
...Executing main program...
683 82 Etienne Pallier
684 21 Etienne Pallier
inputDataDir is "test/DATASET/UC0_NOMINAL/DATA"
685 82 Etienne Pallier
ouputLogDir is "/tmp/LOGS"
686 82 Etienne Pallier
687 21 Etienne Pallier
The DATA DIR (input) contains 126 files (total)
688 82 Etienne Pallier
The DATA DIR (input) contains 26 SPECTRA text files
689 82 Etienne Pallier
690 21 Etienne Pallier
Log files created in /tmp/LOGS/ :
691 21 Etienne Pallier
['20110223', '20130223', '20140123', '20140223', '20140225', '20140226', '20150223']
692 36 Etienne Pallier
693 54 Etienne Pallier
694 36 Etienne Pallier
---
695 52 Etienne Pallier
696 50 Etienne Pallier
h2. DAILY WORKFLOW
697 52 Etienne Pallier
698 1 Etienne Pallier
h3. 1) Voici la structure de fichiers réalisée sur le pc-EGSE :
699 52 Etienne Pallier
700 52 Etienne Pallier
Les nouveaux fichiers de données produits lors des tirs de Chemcam sont automatiquement placés dans /home/vx/data/ (au fur et à mesure des tirs)
701 1 Etienne Pallier
702 1 Etienne Pallier
Ils sont ensuite déplacés dans /home/vx/EQM_DATA/AAAAMMJJ/DATA/ lorsqu'ils ont été traités
703 52 Etienne Pallier
704 37 Etienne Pallier
Les fichiers de LOG (relation spectre => HK) créés sont placés directment dans /home/vx/EQM_DATA/AAAAMMJJ/
705 53 Etienne Pallier
706 50 Etienne Pallier
<pre>
707 50 Etienne Pallier
708 50 Etienne Pallier
- /home/vx/data/ : données d'origine restant à traiter (spectres et HK), provenant directement de la manip
709 50 Etienne Pallier
710 36 Etienne Pallier
- /home/vx/EQM_DATA/ : données traitées (spectres, HK, et fichiers logs produits)
711 36 Etienne Pallier
    - AAAAMMJJ/ : un dossier par jour
712 40 Etienne Pallier
        - les fichiers logs produits (CSV)
713 40 Etienne Pallier
        - DATA/ : les données d'origine (spectres et HK)
714 48 Etienne Pallier
715 1 Etienne Pallier
</pre>
716 51 Etienne Pallier
717 48 Etienne Pallier
h3. 2) WORKFLOW
718 57 Etienne Pallier
719 55 Etienne Pallier
Ce workflow devrait normalement fonctionner dans tous les cas de figure (démarrage n'importe quand, en début de journée ou en cours de journée, ou même reprise après un crash brutal...)
720 1 Etienne Pallier
721 39 Etienne Pallier
Démarrage automatique du workflow à partir du Démarrage du pc-EGSE
722 57 Etienne Pallier
723 1 Etienne Pallier
1) Faire tourner le traitement sur TOUS les fichiers présents dans le dossier /home/vx/data/ (SAUF les fichiers du jour J, s'il y en a...)
724 57 Etienne Pallier
Les fichiers LOGS produits sont placés automatiquement dans le dossier correspondant à leur jour /home/vx/EQM_DATA/AAAAMMJJ/
725 57 Etienne Pallier
(AAAA année en 4 chiffres, MM mois en deux chiffres et JJ jour du mois en deux chiffres)
726 57 Etienne Pallier
727 57 Etienne Pallier
2) Déplacer TOUS les fichiers de /home/vx/data/ dans leur dossier correspondant /home/vx/EQM_DATA/AAAAMMJJ/DATA/ (SAUF les fichiers du jour J, s'il y en a...)
728 57 Etienne Pallier
729 48 Etienne Pallier
3) (Every 5 seconds) : pour les fichiers du jour J
730 1 Etienne Pallier
S'il existe au moins un fichier dans /home/vx/data/, faire tourner le traitement sur TOUS les fichiers présents 
731 51 Etienne Pallier
LE FICHIER LOG produit (un seul pour le jour J) est placé automatiquement dans le dossier correspondant à son jour (J) /home/vx/EQM_DATA/AAAAMMJJ/
732 1 Etienne Pallier
Attention : on ne déplace pas les fichiers dans leur dossier correspondant /home/vx/EQM_DATA/AAAAMMJJ/DATA/ ; cela sera fait au prochain démarrage du workflow) ; cela permet d'avoir un fichier LOG qui se complète au fur et à mesure de la journée
733 1 Etienne Pallier
Il faudrait quand meme les COPIER (cp) (mais pas les DEPLACER (mv))
734 1 Etienne Pallier
OPTIMISATION : Exécution SSI le nb de fichiers du repertoire DATA/ a changé (tenir à jour un fichier contenant le nb de files)
735 1 Etienne Pallier
736 1 Etienne Pallier
Fin du workflow à l'extinction du pc-EGSE