所以2×1＋3×k＝0．所以k＝－．

　　当B＝90°时，·＝0，＝－＝(1－2，k－3)＝(－1，k－3)，所以2×(－1)＋3×(k－3)＝0．所以k＝．

　　当C＝90°时，·＝0，所以－1＋k(k－3)＝0，

　　所以k＝．

　　因此，当k＝－，或k＝，或k＝时，△ABC的一个内角为直角．

探究三 数量积的坐标表示在几何中的应用

　　用向量法解决几何问题的关键是把有关的边赋予向量，然后把几何图形中的夹角、垂直、长度等问题都统一为向量的坐标运算即可，最后再回归到原始几何图形中进行说明．

　　【例4】 以原点O和点A(5,2)为两个顶点作等腰直角△ABO，B为直角顶点，试求的坐标．

　　解：设B(x，y)，则＝(x，y)，＝(x－5，y－2)．

　　因为△ABO是等腰直角三角形，故⊥，且||＝||，

　　所以

　　解得或

　　所以＝或＝．

　　【例5】 已知a＝(，－1)，b＝，且存在实数k和t使得x＝a＋(t2－3)b，y＝－ka＋tb，且x⊥y，试求的最小值．

　　解：由题意有|a|＝2，|b|＝1．

　　因为a·b＝×－1×＝0，所以a⊥b．

因为x·y＝0，所以[a＋(t2－3)b]·(－ka＋tb)＝0，化简得k＝，所以＝(t2