Sync EDKII BaseTools to BaseTools project r1903.
[efi/edk2/.git] / edk2 / BaseTools / Source / Python / AutoGen / UniClassObject.py
1 # Copyright (c) 2007, Intel Corporation\r
2 # All rights reserved. This program and the accompanying materials\r
3 # are licensed and made available under the terms and conditions of the BSD License\r
4 # which accompanies this distribution.  The full text of the license may be found at\r
5 # http://opensource.org/licenses/bsd-license.php\r
6 #\r
7 # THE PROGRAM IS DISTRIBUTED UNDER THE BSD LICENSE ON AN "AS IS" BASIS,\r
8 # WITHOUT WARRANTIES OR REPRESENTATIONS OF ANY KIND, EITHER EXPRESS OR IMPLIED.\r
9 \r
10 #\r
11 #This file is used to collect all defined strings in multiple uni files\r
12 #\r
13 \r
14 ##\r
15 # Import Modules\r
16 #\r
17 import os, codecs, re\r
18 import Common.EdkLogger as EdkLogger\r
19 from Common.BuildToolError import *\r
20 from Common.String import GetLineNo\r
21 from Common.Misc import PathClass\r
22 \r
23 ##\r
24 # Static definitions\r
25 #\r
26 UNICODE_WIDE_CHAR = u'\\wide'\r
27 UNICODE_NARROW_CHAR = u'\\narrow'\r
28 UNICODE_NON_BREAKING_CHAR = u'\\nbr'\r
29 UNICODE_UNICODE_CR = '\r'\r
30 UNICODE_UNICODE_LF = '\n'\r
31 \r
32 NARROW_CHAR = u'\uFFF0'\r
33 WIDE_CHAR = u'\uFFF1'\r
34 NON_BREAKING_CHAR = u'\uFFF2'\r
35 CR = u'\u000D'\r
36 LF = u'\u000A'\r
37 NULL = u'\u0000'\r
38 TAB = u'\t'\r
39 BACK_SPLASH = u'\\'\r
40 \r
41 gIncludePattern = re.compile("^#include +[\"<]+([^\"< >]+)[>\"]+$", re.MULTILINE | re.UNICODE)\r
42 \r
43 ## Convert a python unicode string to a normal string\r
44 #\r
45 # Convert a python unicode string to a normal string\r
46 # UniToStr(u'I am a string') is 'I am a string'\r
47 #\r
48 # @param Uni:  The python unicode string\r
49 #\r
50 # @retval:     The formatted normal string\r
51 #\r
52 def UniToStr(Uni):\r
53     return repr(Uni)[2:-1]\r
54 \r
55 ## Convert a unicode string to a Hex list\r
56 #\r
57 # Convert a unicode string to a Hex list\r
58 # UniToHexList('ABC') is ['0x41', '0x00', '0x42', '0x00', '0x43', '0x00']\r
59 #\r
60 # @param Uni:    The python unicode string\r
61 #\r
62 # @retval List:  The formatted hex list\r
63 #\r
64 def UniToHexList(Uni):\r
65     List = []\r
66     for Item in Uni:\r
67         Temp = '%04X' % ord(Item)\r
68         List.append('0x' + Temp[2:4])\r
69         List.append('0x' + Temp[0:2])\r
70     return List\r
71 \r
72 LangConvTable = {'eng':'en', 'fra':'fr', \\r
73                  'aar':'aa', 'abk':'ab', 'ave':'ae', 'afr':'af', 'aka':'ak', 'amh':'am', \\r
74                  'arg':'an', 'ara':'ar', 'asm':'as', 'ava':'av', 'aym':'ay', 'aze':'az', \\r
75                  'bak':'ba', 'bel':'be', 'bul':'bg', 'bih':'bh', 'bis':'bi', 'bam':'bm', \\r
76                  'ben':'bn', 'bod':'bo', 'bre':'br', 'bos':'bs', 'cat':'ca', 'che':'ce', \\r
77                  'cha':'ch', 'cos':'co', 'cre':'cr', 'ces':'cs', 'chu':'cu', 'chv':'cv', \\r
78                  'cym':'cy', 'dan':'da', 'deu':'de', 'div':'dv', 'dzo':'dz', 'ewe':'ee', \\r
79                  'ell':'el', 'epo':'eo', 'spa':'es', 'est':'et', 'eus':'eu', 'fas':'fa', \\r
80                  'ful':'ff', 'fin':'fi', 'fij':'fj', 'fao':'fo', 'fry':'fy', 'gle':'ga', \\r
81                  'gla':'gd', 'glg':'gl', 'grn':'gn', 'guj':'gu', 'glv':'gv', 'hau':'ha', \\r
82                  'heb':'he', 'hin':'hi', 'hmo':'ho', 'hrv':'hr', 'hat':'ht', 'hun':'hu', \\r
83                  'hye':'hy', 'her':'hz', 'ina':'ia', 'ind':'id', 'ile':'ie', 'ibo':'ig', \\r
84                  'iii':'ii', 'ipk':'ik', 'ido':'io', 'isl':'is', 'ita':'it', 'iku':'iu', \\r
85                  'jpn':'ja', 'jav':'jv', 'kat':'ka', 'kon':'kg', 'kik':'ki', 'kua':'kj', \\r
86                  'kaz':'kk', 'kal':'kl', 'khm':'km', 'kan':'kn', 'kor':'ko', 'kau':'kr', \\r
87                  'kas':'ks', 'kur':'ku', 'kom':'kv', 'cor':'kw', 'kir':'ky', 'lat':'la', \\r
88                  'ltz':'lb', 'lug':'lg', 'lim':'li', 'lin':'ln', 'lao':'lo', 'lit':'lt', \\r
89                  'lub':'lu', 'lav':'lv', 'mlg':'mg', 'mah':'mh', 'mri':'mi', 'mkd':'mk', \\r
90                  'mal':'ml', 'mon':'mn', 'mar':'mr', 'msa':'ms', 'mlt':'mt', 'mya':'my', \\r
91                  'nau':'na', 'nob':'nb', 'nde':'nd', 'nep':'ne', 'ndo':'ng', 'nld':'nl', \\r
92                  'nno':'nn', 'nor':'no', 'nbl':'nr', 'nav':'nv', 'nya':'ny', 'oci':'oc', \\r
93                  'oji':'oj', 'orm':'om', 'ori':'or', 'oss':'os', 'pan':'pa', 'pli':'pi', \\r
94                  'pol':'pl', 'pus':'ps', 'por':'pt', 'que':'qu', 'roh':'rm', 'run':'rn', \\r
95                  'ron':'ro', 'rus':'ru', 'kin':'rw', 'san':'sa', 'srd':'sc', 'snd':'sd', \\r
96                  'sme':'se', 'sag':'sg', 'sin':'si', 'slk':'sk', 'slv':'sl', 'smo':'sm', \\r
97                  'sna':'sn', 'som':'so', 'sqi':'sq', 'srp':'sr', 'ssw':'ss', 'sot':'st', \\r
98                  'sun':'su', 'swe':'sv', 'swa':'sw', 'tam':'ta', 'tel':'te', 'tgk':'tg', \\r
99                  'tha':'th', 'tir':'ti', 'tuk':'tk', 'tgl':'tl', 'tsn':'tn', 'ton':'to', \\r
100                  'tur':'tr', 'tso':'ts', 'tat':'tt', 'twi':'tw', 'tah':'ty', 'uig':'ug', \\r
101                  'ukr':'uk', 'urd':'ur', 'uzb':'uz', 'ven':'ve', 'vie':'vi', 'vol':'vo', \\r
102                  'wln':'wa', 'wol':'wo', 'xho':'xh', 'yid':'yi', 'yor':'yo', 'zha':'za', \\r
103                  'zho':'zh', 'zul':'zu'}\r
104 \r
105 ## GetLanguageCode\r
106 #\r
107 # Check the language code read from .UNI file and convert ISO 639-2 codes to RFC 4646 codes if appropriate\r
108 # ISO 639-2 language codes supported in compatiblity mode\r
109 # RFC 4646 language codes supported in native mode\r
110 #\r
111 # @param LangName:   Language codes read from .UNI file\r
112 #\r
113 # @retval LangName:  Valid lanugage code in RFC 4646 format or None\r
114 #\r
115 def GetLanguageCode(LangName, IsCompatibleMode, File):\r
116     global LangConvTable\r
117 \r
118     length = len(LangName)\r
119     if IsCompatibleMode:\r
120         if length == 3 and LangName.isalpha():\r
121             TempLangName = LangConvTable.get(LangName.lower())\r
122             if TempLangName != None:\r
123                return TempLangName\r
124             return LangName\r
125         else:\r
126             EdkLogger.error("Unicode File Parser", FORMAT_INVALID, "Invalid ISO 639-2 language code : %s" % LangName, File)\r
127 \r
128     if length == 2:\r
129         if LangName.isalpha():\r
130             return LangName\r
131     elif length == 3:\r
132         if LangName.isalpha() and LangConvTable.get(LangName.lower()) == None:\r
133             return LangName\r
134     elif length == 5:\r
135         if LangName[0:2].isalpha() and LangName[2] == '-':\r
136             return LangName\r
137     elif length >= 6:\r
138         if LangName[0:2].isalpha() and LangName[2] == '-':\r
139             return LangName\r
140         if LangName[0:3].isalpha() and LangConvTable.get(LangName.lower()) == None and LangName[3] == '-':\r
141             return LangName\r
142 \r
143     EdkLogger.error("Unicode File Parser", FORMAT_INVALID, "Invalid RFC 4646 language code : %s" % LangName, File)\r
144 \r
145 ## StringDefClassObject\r
146 #\r
147 # A structure for language definition\r
148 #\r
149 class StringDefClassObject(object):\r
150     def __init__(self, Name = None, Value = None, Referenced = False, Token = None, UseOtherLangDef = ''):\r
151         self.StringName = ''\r
152         self.StringNameByteList = []\r
153         self.StringValue = ''\r
154         self.StringValueByteList = ''\r
155         self.Token = 0\r
156         self.Referenced = Referenced\r
157         self.UseOtherLangDef = UseOtherLangDef\r
158         self.Length = 0\r
159 \r
160         if Name != None:\r
161             self.StringName = Name\r
162             self.StringNameByteList = UniToHexList(Name)\r
163         if Value != None:\r
164             self.StringValue = Value + u'\x00'        # Add a NULL at string tail\r
165             self.StringValueByteList = UniToHexList(self.StringValue)\r
166             self.Length = len(self.StringValueByteList)\r
167         if Token != None:\r
168             self.Token = Token\r
169 \r
170     def __str__(self):\r
171         return repr(self.StringName) + ' ' + \\r
172                repr(self.Token) + ' ' + \\r
173                repr(self.Referenced) + ' ' + \\r
174                repr(self.StringValue) + ' ' + \\r
175                repr(self.UseOtherLangDef)\r
176 \r
177 ## UniFileClassObject\r
178 #\r
179 # A structure for .uni file definition\r
180 #\r
181 class UniFileClassObject(object):\r
182     def __init__(self, FileList = [], IsCompatibleMode = False):\r
183         self.FileList = FileList\r
184         self.Token = 2\r
185         self.LanguageDef = []                   #[ [u'LanguageIdentifier', u'PrintableName'], ... ]\r
186         self.OrderedStringList = {}             #{ u'LanguageIdentifier' : [StringDefClassObject]  }\r
187         self.IsCompatibleMode = IsCompatibleMode\r
188 \r
189         if len(self.FileList) > 0:\r
190             self.LoadUniFiles(FileList)\r
191 \r
192     #\r
193     # Get Language definition\r
194     #\r
195     def GetLangDef(self, File, Line):\r
196         Lang = Line.split()\r
197         if len(Lang) != 3:\r
198             try:\r
199                 FileIn = codecs.open(File, mode='rb', encoding='utf-16').read()\r
200             except UnicodeError, X:\r
201                 EdkLogger.error("build", FILE_READ_FAILURE, "File read failure: %s" % str(X), ExtraData=File);\r
202             except:\r
203                 EdkLogger.error("build", FILE_OPEN_FAILURE, ExtraData=File);\r
204             LineNo = GetLineNo(FileIn, Line, False)\r
205             EdkLogger.error("Unicode File Parser", PARSER_ERROR, "Wrong language definition",\r
206                             ExtraData="""%s\n\t*Correct format is like '#langdef eng "English"'""" % Line, File = File, Line = LineNo)\r
207         else:\r
208             LangName = GetLanguageCode(Lang[1], self.IsCompatibleMode, self.File)\r
209             LangPrintName = Lang[2][1:-1]\r
210 \r
211         IsLangInDef = False\r
212         for Item in self.LanguageDef:\r
213             if Item[0] == LangName:\r
214                 IsLangInDef = True\r
215                 break;\r
216 \r
217         if not IsLangInDef:\r
218             self.LanguageDef.append([LangName, LangPrintName])\r
219 \r
220         #\r
221         # Add language string\r
222         #\r
223         self.AddStringToList(u'$LANGUAGE_NAME', LangName, LangName, 0, True, Index=0)\r
224         self.AddStringToList(u'$PRINTABLE_LANGUAGE_NAME', LangName, LangPrintName, 1, True, Index=1)\r
225 \r
226         return True\r
227 \r
228     #\r
229     # Get String name and value\r
230     #\r
231     def GetStringObject(self, Item):\r
232         Name = ''\r
233         Language = ''\r
234         Value = ''\r
235 \r
236         Name = Item.split()[1]\r
237         # Check the string name is the upper character\r
238         if not self.IsCompatibleMode and Name != '':\r
239             MatchString = re.match('[A-Z0-9_]+', Name, re.UNICODE)\r
240             if MatchString == None or MatchString.end(0) != len(Name):\r
241                 EdkLogger.error('Unicode File Parser', FORMAT_INVALID, 'The string token name %s defined in UNI file %s contains the invalid lower case character.' %(Name, self.File))\r
242         LanguageList = Item.split(u'#language ')\r
243         for IndexI in range(len(LanguageList)):\r
244             if IndexI == 0:\r
245                 continue\r
246             else:\r
247                 Language = LanguageList[IndexI].split()[0]\r
248                 Value = LanguageList[IndexI][LanguageList[IndexI].find(u'\"') + len(u'\"') : LanguageList[IndexI].rfind(u'\"')] #.replace(u'\r\n', u'')\r
249                 Language = GetLanguageCode(Language, self.IsCompatibleMode, self.File)\r
250                 self.AddStringToList(Name, Language, Value)\r
251 \r
252     #\r
253     # Get include file list and load them\r
254     #\r
255     def GetIncludeFile(self, Item, Dir):\r
256         FileName = Item[Item.find(u'#include ') + len(u'#include ') :Item.find(u' ', len(u'#include '))][1:-1]\r
257         self.LoadUniFile(FileName)\r
258 \r
259     #\r
260     # Pre-process before parse .uni file\r
261     #\r
262     def PreProcess(self, File):\r
263         if not os.path.exists(File.Path) or not os.path.isfile(File.Path):\r
264             EdkLogger.error("Unicode File Parser", FILE_NOT_FOUND, ExtraData=File.Path)\r
265 \r
266         Dir = File.Dir\r
267         try:\r
268             FileIn = codecs.open(File.Path, mode='rb', encoding='utf-16').readlines()\r
269         except UnicodeError, X:\r
270             EdkLogger.error("build", FILE_READ_FAILURE, "File read failure: %s" % str(X), ExtraData=File.Path);\r
271         except:\r
272             EdkLogger.error("build", FILE_OPEN_FAILURE, ExtraData=File.Path);\r
273 \r
274         Lines = []\r
275         #\r
276         # Use unique identifier\r
277         #\r
278         for Line in FileIn:\r
279             Line = Line.strip()\r
280             #\r
281             # Ignore comment line and empty line\r
282             #\r
283             if Line == u'' or Line.startswith(u'//'):\r
284                 continue\r
285             Line = Line.replace(u'/langdef', u'#langdef')\r
286             Line = Line.replace(u'/string', u'#string')\r
287             Line = Line.replace(u'/language', u'#language')\r
288             Line = Line.replace(u'/include', u'#include')\r
289 \r
290             Line = Line.replace(UNICODE_WIDE_CHAR, WIDE_CHAR)\r
291             Line = Line.replace(UNICODE_NARROW_CHAR, NARROW_CHAR)\r
292             Line = Line.replace(UNICODE_NON_BREAKING_CHAR, NON_BREAKING_CHAR)\r
293 \r
294             Line = Line.replace(u'\\\\', u'\u0006')\r
295             Line = Line.replace(u'\\r\\n', CR + LF)\r
296             Line = Line.replace(u'\\n', CR + LF)\r
297             Line = Line.replace(u'\\r', CR)\r
298             Line = Line.replace(u'\\t', u'\t')\r
299             Line = Line.replace(u'''\"''', u'''"''')\r
300             Line = Line.replace(u'\t', u' ')\r
301             Line = Line.replace(u'\u0006', u'\\')\r
302             \r
303 #           if Line.find(u'\\x'):\r
304 #               hex = Line[Line.find(u'\\x') + 2 : Line.find(u'\\x') + 6]\r
305 #               hex = "u'\\u" + hex + "'"\r
306 \r
307             IncList = gIncludePattern.findall(Line)\r
308             if len(IncList) == 1:\r
309                 Lines.extend(self.PreProcess(PathClass(str(IncList[0]), Dir)))\r
310                 continue\r
311 \r
312             Lines.append(Line)\r
313 \r
314         return Lines\r
315 \r
316     #\r
317     # Load a .uni file\r
318     #\r
319     def LoadUniFile(self, File = None):\r
320         if File == None:\r
321             EdkLogger.error("Unicode File Parser", PARSER_ERROR, 'No unicode file is given')\r
322         self.File = File\r
323         #\r
324         # Process special char in file\r
325         #\r
326         Lines = self.PreProcess(File)\r
327 \r
328         #\r
329         # Get Unicode Information\r
330         #\r
331         for IndexI in range(len(Lines)):\r
332             Line = Lines[IndexI]\r
333             if (IndexI + 1) < len(Lines):\r
334                 SecondLine = Lines[IndexI + 1]\r
335             if (IndexI + 2) < len(Lines):\r
336                 ThirdLine = Lines[IndexI + 2]\r
337 \r
338             #\r
339             # Get Language def information\r
340             #\r
341             if Line.find(u'#langdef ') >= 0:\r
342                 self.GetLangDef(File, Line)\r
343                 continue\r
344 \r
345             Name = ''\r
346             Language = ''\r
347             Value = ''\r
348             #\r
349             # Get string def information format 1 as below\r
350             #\r
351             #     #string MY_STRING_1\r
352             #     #language eng\r
353             #     My first English string line 1\r
354             #     My first English string line 2\r
355             #     #string MY_STRING_1\r
356             #     #language spa\r
357             #     Mi segunda secuencia 1\r
358             #     Mi segunda secuencia 2\r
359             #\r
360             if Line.find(u'#string ') >= 0 and Line.find(u'#language ') < 0 and \\r
361                 SecondLine.find(u'#string ') < 0 and SecondLine.find(u'#language ') >= 0 and \\r
362                 ThirdLine.find(u'#string ') < 0 and ThirdLine.find(u'#language ') < 0:\r
363                 Name = Line[Line.find(u'#string ') + len(u'#string ') : ].strip(' ')\r
364                 Language = SecondLine[SecondLine.find(u'#language ') + len(u'#language ') : ].strip(' ')\r
365                 for IndexJ in range(IndexI + 2, len(Lines)):\r
366                     if Lines[IndexJ].find(u'#string ') < 0 and Lines[IndexJ].find(u'#language ') < 0:\r
367                         Value = Value + Lines[IndexJ]\r
368                     else:\r
369                         IndexI = IndexJ\r
370                         break\r
371                 # Value = Value.replace(u'\r\n', u'')\r
372                 Language = GetLanguageCode(Language, self.IsCompatibleMode, self.File)\r
373                 # Check the string name is the upper character\r
374                 if not self.IsCompatibleMode and Name != '':\r
375                     MatchString = re.match('[A-Z0-9_]+', Name, re.UNICODE)\r
376                     if MatchString == None or MatchString.end(0) != len(Name):\r
377                         EdkLogger.error('Unicode File Parser', FORMAT_INVALID, 'The string token name %s defined in UNI file %s contains the invalid lower case character.' %(Name, self.File))\r
378                 self.AddStringToList(Name, Language, Value)\r
379                 continue\r
380 \r
381             #\r
382             # Get string def information format 2 as below\r
383             #\r
384             #     #string MY_STRING_1     #language eng     "My first English string line 1"\r
385             #                                               "My first English string line 2"\r
386             #                             #language spa     "Mi segunda secuencia 1"\r
387             #                                               "Mi segunda secuencia 2"\r
388             #     #string MY_STRING_2     #language eng     "My first English string line 1"\r
389             #                                               "My first English string line 2"\r
390             #     #string MY_STRING_2     #language spa     "Mi segunda secuencia 1"\r
391             #                                               "Mi segunda secuencia 2"\r
392             #\r
393             if Line.find(u'#string ') >= 0 and Line.find(u'#language ') >= 0:\r
394                 StringItem = Line\r
395                 for IndexJ in range(IndexI + 1, len(Lines)):\r
396                     if Lines[IndexJ].find(u'#string ') >= 0 and Lines[IndexJ].find(u'#language ') >= 0:\r
397                         IndexI = IndexJ\r
398                         break\r
399                     elif Lines[IndexJ].find(u'#string ') < 0 and Lines[IndexJ].find(u'#language ') >= 0:\r
400                         StringItem = StringItem + Lines[IndexJ]\r
401                     elif Lines[IndexJ].count(u'\"') >= 2:\r
402                         StringItem = StringItem[ : StringItem.rfind(u'\"')] + Lines[IndexJ][Lines[IndexJ].find(u'\"') + len(u'\"') : ]\r
403                 self.GetStringObject(StringItem)\r
404                 continue\r
405 \r
406     #\r
407     # Load multiple .uni files\r
408     #\r
409     def LoadUniFiles(self, FileList):\r
410         if len(FileList) > 0:\r
411             for File in FileList:\r
412                 self.LoadUniFile(File)\r
413 \r
414     #\r
415     # Add a string to list\r
416     #\r
417     def AddStringToList(self, Name, Language, Value, Token = None, Referenced = False, UseOtherLangDef = '', Index = -1):\r
418         if Language not in self.OrderedStringList:\r
419             self.OrderedStringList[Language] = []\r
420 \r
421         IsAdded = False\r
422         for Item in self.OrderedStringList[Language]:\r
423             if Name == Item.StringName:\r
424                 IsAdded = True\r
425                 break\r
426         if not IsAdded:\r
427             Token = len(self.OrderedStringList[Language])\r
428             if Index == -1:\r
429                 self.OrderedStringList[Language].append(StringDefClassObject(Name, Value, Referenced, Token, UseOtherLangDef))\r
430             else:\r
431                 self.OrderedStringList[Language].insert(Index, StringDefClassObject(Name, Value, Referenced, Token, UseOtherLangDef))\r
432 \r
433     #\r
434     # Set the string as referenced\r
435     #\r
436     def SetStringReferenced(self, Name):\r
437         for Lang in self.OrderedStringList:\r
438             for Item in self.OrderedStringList[Lang]:\r
439                 if Name == Item.StringName:\r
440                     Item.Referenced = True\r
441                     break\r
442     #\r
443     # Search the string in language definition by Name\r
444     #\r
445     def FindStringValue(self, Name, Lang):\r
446         for Item in self.OrderedStringList[Lang]:\r
447             if Item.StringName == Name:\r
448                 return Item\r
449 \r
450         return None\r
451 \r
452     #\r
453     # Search the string in language definition by Token\r
454     #\r
455     def FindByToken(self, Token, Lang):\r
456         for Item in self.OrderedStringList[Lang]:\r
457             if Item.Token == Token:\r
458                 return Item\r
459 \r
460         return None\r
461 \r
462     #\r
463     # Re-order strings and re-generate tokens\r
464     #\r
465     def ReToken(self):\r
466         #\r
467         # Search each string to find if it is defined for each language\r
468         # Use secondary language value to replace if missing in any one language\r
469         #\r
470         for IndexI in range(0, len(self.LanguageDef)):\r
471             LangKey = self.LanguageDef[IndexI][0]\r
472             for Item in self.OrderedStringList[LangKey]:\r
473                 Name = Item.StringName\r
474                 Value = Item.StringValue[0:-1]\r
475                 Referenced = Item.Referenced\r
476                 Index = self.OrderedStringList[LangKey].index(Item)\r
477                 for IndexJ in range(0, len(self.LanguageDef)):\r
478                     LangFind = self.LanguageDef[IndexJ][0]\r
479                     if self.FindStringValue(Name, LangFind) == None:\r
480                         EdkLogger.debug(EdkLogger.DEBUG_5, Name)\r
481                         Token = len(self.OrderedStringList[LangFind])\r
482                         self.AddStringToList(Name, LangFind, Value, Token, Referenced, LangKey, Index)\r
483         #\r
484         # Retoken\r
485         #\r
486         # First re-token the first language\r
487         LangName = self.LanguageDef[0][0]\r
488         ReferencedStringList = []\r
489         NotReferencedStringList = []\r
490         Token = 0\r
491 \r
492         #\r
493         # Order UNI token by their String Name\r
494         #\r
495         StringNameList = []\r
496         for Item in self.OrderedStringList[LangName]:\r
497             StringNameList.append (Item.StringName)\r
498         StringNameList.sort()\r
499 \r
500         for Name in StringNameList:\r
501             Item = self.FindStringValue (Name, LangName)\r
502             if Item.Referenced == True:\r
503                 Item.Token = Token\r
504                 ReferencedStringList.append(Item)\r
505                 Token = Token + 1\r
506             else:\r
507                 NotReferencedStringList.append(Item)\r
508         self.OrderedStringList[LangName] = ReferencedStringList\r
509         for Index in range(len(NotReferencedStringList)):\r
510             NotReferencedStringList[Index].Token = Token + Index\r
511             self.OrderedStringList[LangName].append(NotReferencedStringList[Index])\r
512 \r
513         #\r
514         # Adjust the orders of other languages\r
515         #\r
516         for IndexOfLanguage in range(1, len(self.LanguageDef)):\r
517             for OrderedString in self.OrderedStringList[LangName]:\r
518                 for UnOrderedString in self.OrderedStringList[self.LanguageDef[IndexOfLanguage][0]]:\r
519                     if OrderedString.StringName == UnOrderedString.StringName:\r
520                         UnOrderedString.Token = OrderedString.Token\r
521                         break\r
522 \r
523     #\r
524     # Show the instance itself\r
525     #\r
526     def ShowMe(self):\r
527         print self.LanguageDef\r
528         #print self.OrderedStringList\r
529         for Item in self.OrderedStringList:\r
530             print Item\r
531             for Member in self.OrderedStringList[Item]:\r
532                 print str(Member)\r
533 \r
534 # This acts like the main() function for the script, unless it is 'import'ed into another\r
535 # script.\r
536 if __name__ == '__main__':\r
537     EdkLogger.Initialize()\r
538     EdkLogger.SetLevel(EdkLogger.DEBUG_0)\r
539     a = UniFileClassObject(['C:\\Edk\\Strings.uni', 'C:\\Edk\\Strings2.uni'])\r
540     a.ReToken()\r
541     a.ShowMe()\r