Это известная проблема в темах для RadGridView. В настоящее время ControlTemplate для GridViewRow не имеет привязок шаблонов для BorderBru sh и BorderThickness. Это означает, что внесенное вами изменение не было распространено на элемент Border, который находится в шаблоне GridViewRow. Мы исправим это в нашем официальном релизе.
Однако есть способ, которым вы можете сделать это в текущей ситуации. Вы должны просто найти границу в шаблоне. Вот пример того, как этого добиться:
var border = rowItem.ChildrenOfType<Border>().FirstOrDefault();
if(border != null) {
border.BorderBrush = new SolidColorBrush(Colors.Red);
border.BorderThickness = new Thickness(1);
}