是什么使BertGeneration和/或RobertaForCausalLM因果模型成立?因果掩盖在哪里发生?

问题描述

我正在尝试使用RobertaForCausalLM和/或BertGeneration进行因果语言建模/下一词预测/从左至右预测。我似乎无法弄清楚因果掩盖发生在哪里?我想训练带有地面真实性标签的老师强迫,但是注意机制中没有来自将来标记的任何信息。为此,我认为该模型需要因果注意屏蔽,但我看不到它会在任何地方应用...

如果有人可以指出这可能发生在哪里或为什么不必要,那会很有帮助。

谢谢!

解决方法

我找到了。它发生在modeling utils<CarouselView BindingContext="{x:Reference BottomTabGridPageXaml}" ItemsSource="{Binding StudentList}" VerticalOptions="FillAndExpand"> <CarouselView.ItemsLayout> <LinearItemsLayout Orientation="Vertical" SnapPointsType="MandatorySingle"/> </CarouselView.ItemsLayout> <CarouselView.ItemTemplate> <DataTemplate> <StackLayout VerticalOptions="FillAndExpand"> <Label Text="{Binding Id}" HorizontalOptions="Center" VerticalOptions="CenterAndExpand"/> <Label Text="{Binding Name}" HorizontalOptions="Center" VerticalOptions="CenterAndExpand"/> <Label Text="{Binding Number}" HorizontalOptions="Center" VerticalOptions="CenterAndExpand"/> <Label Text="{Binding Age}" HorizontalOptions="Center" VerticalOptions="CenterAndExpand"/> </StackLayout> </DataTemplate> </CarouselView.ItemTemplate> </CarouselView> 中。考虑这个问题已解决:slight_smile: