我們發(fā)現(xiàn)，智能機器人不一定具有可以使人類遠(yuǎn)離傷害所必須的技能。
受控的試錯法是大多數(shù)機器人必須具有的技術(shù)，邊緣計算和自動駕駛汽車解決方案是獲取和發(fā)展其AI智能的方法。作為自主設(shè)備背后的大腦，人工智能可以幫助機器人如此出色地完成其分配的任務(wù)。
對AI機器人進(jìn)行安全操作培訓(xùn)不是一個好過程。當(dāng)機器人搜索最佳動作序列以實現(xiàn)其預(yù)期結(jié)果時，它必將采取比最佳路徑更多的適得其反的動作。
機器人需要學(xué)習(xí)什么
開發(fā)人員在將其AI驅(qū)動的機器人推向更廣闊的場景之前，必須將以下場景納入其RL程序中：
地理空間意識：現(xiàn)實操作環(huán)境對于通用機器人成功導(dǎo)航而言可能非常棘手。正確的RL可以幫助此安全機器人中的AI算法了解其旨在巡邏的室內(nèi)和室外環(huán)境中的運動挑戰(zhàn)范圍。僅為機器人配備內(nèi)置攝像機和熱成像是不夠的。將其滾動到公共噴泉中之后，再也無法挽救它了。
避免碰撞：在許多現(xiàn)實環(huán)境中，機器人可能像助手一樣危險。對于自動駕駛汽車，這是顯而易見的，但對于零售，辦公室，住宅和其他人們可能會放松警惕的環(huán)境也是如此。社會有充分的理由期望將AI驅(qū)動的防護(hù)措施內(nèi)置到日常的機器人中，這樣，幼兒、殘障人士和其他人就不必?fù)?dān)心他們會在我們最不期望的時候墜入我們的視野。
避免碰撞是RL面臨的主要挑戰(zhàn)，應(yīng)該成為每個機器人中的一種標(biāo)準(zhǔn)，高度精確的算法。法律和監(jiān)管機構(gòu)很快就會對此提出要求。
相關(guān)內(nèi)容的分類：機器人將在越來越復(fù)雜的工業(yè)協(xié)作中與人類近距離合作。其中許多合作將涉及高速，高通量的生產(chǎn)工作。為了避免生命危險和肢體風(fēng)險，控制工廠底層機器人的AI將需要智能設(shè)備，以迅速將人與周圍的機械和材料區(qū)分開。
這些算法分類將依賴于3D數(shù)據(jù)的實時關(guān)聯(lián)來自各種攝像頭和傳感器，并將推動自動化風(fēng)險緩解措施，例如停止設(shè)備運行或降低設(shè)備運行速度，以免傷害人類工作者。鑒于需要圍繞組合場景進(jìn)行無限范圍的組合訓(xùn)練，圍繞該組合場景需要訓(xùn)練工業(yè)機器人控制，并且相應(yīng)地存在大量潛在事故，因此必要的AI將在RL上運行，該RL是根據(jù)從實際操作和高度真實的實驗室模擬中收集的數(shù)據(jù)進(jìn)行訓(xùn)練的。
避免自殘：幾乎不會對機器人進(jìn)行編程以破壞自身和/或周圍環(huán)境。但是，通過RL訓(xùn)練的機器人可能會探索各種各樣的可選行為，其中一些行為可能會導(dǎo)致自殘。作為其核心訓(xùn)練的擴展，可以使用一種稱為“剩余RL ”的方法來防止機器人在訓(xùn)練過程中探索自毀或環(huán)境破壞行為。隨著機器人在抓取和操縱環(huán)境（包括與人類操作員互動）方面變得如此靈活，以至于除非受到訓(xùn)練，否則他們開始使自己和他人處于危險之中，因此使用這種自我保護(hù)的訓(xùn)練程序可能會成為主流。
認(rèn)證機構(gòu)：機器人越來越成為我們生活中各個方面的數(shù)字代理的物理表現(xiàn)。這里提到的智能音箱應(yīng)該已經(jīng)接受過培訓(xùn)，以免下達(dá)未經(jīng)授權(quán)的訂單。他們錯誤地遵循了一個語音激活的購買請求，該請求來自一個未經(jīng)父母授權(quán)的孩子。盡管這可以通過多因素身份驗證而不是通過算法訓(xùn)練來解決，但很明顯，在決定使用哪種多因素方法進(jìn)行強身份驗證和委派許可時，在許多環(huán)境中，聲控機器人可能需要逐步通過復(fù)雜的算法。
可以想象，RL可以用來幫助機器人更快地識別最合適的身份驗證，授權(quán)和委派程序，以在環(huán)境中充當(dāng)許多嘗試執(zhí)行各種動態(tài)任務(wù)的人員的代理。
防御性操縱：機器人是必須在其他實體（例如人）可能會故意進(jìn)行的和意外攻擊中幸免的對象。這款無人駕駛穿梭巴士中的AI算法應(yīng)經(jīng)過訓(xùn)練，以采取某種規(guī)避動作（例如，朝相反的方向傾斜幾英尺），以避免半身不經(jīng)意地倒入其中。對于在運輸，公共安全和軍事角色中部署的機器人而言，防御性機動將變得至關(guān)重要。這也是機器人設(shè)備抵御普遍的惡作劇和破壞行為的必不可少的功能，無論部署在哪里，它們肯定會吸引他們。
協(xié)作編排：越來越多地將機器人部署為協(xié)調(diào)的集合，而不是孤立的助手。應(yīng)當(dāng)訓(xùn)練倉庫機器人中的AI算法，使其彼此協(xié)調(diào)工作，并與這些環(huán)境中的許多人協(xié)調(diào)工作。鑒于潛在的交互方案范圍很廣，這對于RL來說是一個艱巨的挑戰(zhàn)。但是社會將要求各種設(shè)備提供這種基本能力，包括在我們的天空巡邏，運送我們的貨物以及探索對人類來說太危險的環(huán)境的無人機。
文化敏感性：機器人必須尊重文明社會規(guī)范的人。這包括確保機器人的面部識別算法 不會對所遇到的人進(jìn)行歧視，貶低或以其他方式不敏感的推斷。當(dāng)我們將機器人部署到高度社交的環(huán)境中時，這將變得更加關(guān)鍵，在這種環(huán)境中，必須訓(xùn)練機器人不要冒犯他人，例如，通過對跨性別者使用不正確的基于性別的稱呼。
對于實際人類而言，這些區(qū)別可能非常棘手，但這只會增加對RL訓(xùn)練AI驅(qū)動的實體以避免犯下自動偽造的需求。
確保符合安全要求
在不久的將來，可能需要您的RL過程的視頻審核日志，以使利益相關(guān)者通過鼓舞，這些利益相關(guān)者需要證明您的作品符合所有合理的AI安全 標(biāo)準(zhǔn)。
對機器人進(jìn)行安全操作的培訓(xùn)可能是一個漫長，令人沮喪且乏味的過程。開發(fā)人員可能需要通過艱苦的努力來發(fā)展他們的RL實踐，直到他們的機器人能夠以可以推廣到各種安全場景的方式進(jìn)行操作。
在接下來的幾年中，對于將機器人技術(shù)部署到使人們的生命處于危險中的應(yīng)用程序的AI專業(yè)人員來說，這些做法很可能成為強制性的。
