问题描述
我有一个带有ID的文本文件,我想在一个巨大的CSV文件中找到与ID匹配的所有行。基本上,这是数据库中这种查找表的情况(内部联接),在这里我只关心外键匹配的大型CSV中的行。
当我在这样的文件中只有外键时,第一段代码起作用。
ForeignKey
AA346A
B4511B
但是,我真的很想遇到这样一种情况,我要再提取一个数据,一个与每个外键相关联的ID,如下所示:
ForeignKey:ID
AA346A:12a3
B4511B:45b6
冒号前面的字符是我要查找的模式(外键)。在输出文件(匹配项)中,我想先获得ID,然后再获得“,”和匹配行。因此,输入的CSV是这样的:
H1,H2,H3,ForeignKey,H5,H6
FooBar,56,MoreFooBarText,YY894s,W233
ThisIsText,012,MoreText,AA346A,33
FooBar,789,HI333A,SomeFooBarMoreText,35
FooBar,678,33rrtt,76
EvenMoreText,44,SomeMoreText,33
AbitMoreText,540,B4511B,980
EvenMoreText,67,934
FooBar,45,33TTYU4,657
EvenMoreText,867,657
FooBar,13,er957,79
输出看起来像这样:
ID,H1,H6
12a3,ThisIsText,33
12a3,EvenMoreText,33
45b6,AbitMoreText,980
45b6,934
45b6,657
如何更改代码以使该变量位于匹配行的开头?
#this works
$infile = 'C:\Temp\TB06.csv'
$outpathA = 'C:\Temp\TB06AResults.txt'
$IDs = Get-Content 'C:\Temp\StudyID.txt'
Foreach($i in $IDs){
Get-Content $infile | Select-String "$i" | Out-File -FilePath $outpathA -Append
}
#I can't get this to work
$outpath = 'C:\Temp\TB06BResults.txt'
$IDLkup = Get-Content 'C:\Temp\StudyID_lkup.txt'
Foreach($Line in $IDs){
$IDNP,$StudyID = $Line.split(':')[0,1]
Get-Content $infile | Select-String "$IDNP" | Out-File -FilePath $outpath -Append
}
解决方法
您的标题包括两个H3,我已将其纠正。
您可以将Group-Object cmdlet与-AsHashTable参数一起使用以创建“查找表”。我们将针对最小的CSV进行此操作。完成后,您可以在与外键匹配的属性上过滤数据CSV,然后使用相同的属性在表中查找ID。我还使用convertto-csv进行了演示,在这里您仅使用导出。
$DataCSV = @'
H1,H2,H3,ForeignKey,H5,H6
FooBar,56,MoreFooBarText,YY894s,W233
ThisIsText,012,MoreText,AA346A,33
FooBar,789,HI333A,SomeFooBarMoreText,35
FooBar,678,33rrtt,76
EvenMoreText,44,SomeMoreText,33
AbitMoreText,540,B4511B,980
EvenMoreText,67,934
FooBar,45,33TTYU4,657
EvenMoreText,867,657
FooBar,13,er957,79
'@ | ConvertFrom-Csv
$foreign = @'
Foreign Key: ID
AA346A:12a3
B4511B:45b6
'@ | ConvertFrom-Csv -Delimiter ':' | Group-Object -Property 'Foreign Key' -AsHashTable
$DataCSV | where ForeignKey -in $foreign.Keys |
select @{N='ForeignID';E={$foreign[$_.ForeignKey].id}},* | ConvertTo-Csv -NoType
输出
"ForeignID","H1","H2","H3","ForeignKey","H5","H6"
"12a3","ThisIsText","012","MoreText","AA346A","33"
"12a3","EvenMoreText","44","SomeMoreText","33"
"45b6","AbitMoreText","540","B4511B","980 "
"45b6","67","934"
"45b6","867","657"
任何时候您都可以避免使用{ }
,这样可以节省大量的处理时间。这样写的话,确实会降低大型数据集的速度。
$DataCSV | where {$_.ForeignKey -in $foreign.Keys} |
select @{N='ForeignID';E={$foreign[$_.ForeignKey].id}},* | ConvertTo-Csv -NoType
在此示例中,$ DataCSV仅展开一次,并且使用查找表的速度很快。
此处与上述命令相同,但用于处理文件。
$infile = 'C:\Temp\TB06.csv'
$outpathA = 'C:\Temp\TB06AResults.txt'
$IDs = 'C:\Temp\StudyID.txt'
$foreign = Import-Csv $IDs -Delimiter ':' | Group-Object -Property 'Foreign Key' -AsHashTable
Import-Csv $infile | where ForeignKey -in $foreign.Keys |
select @{N='ForeignID';E={$foreign[$_.ForeignKey].id}},* |
Export-Csv $outpathA -NoTypeInformation